DE202022104108U1 - Device for detecting objects in a surveillance area - Google Patents
Device for detecting objects in a surveillance area Download PDFInfo
- Publication number
- DE202022104108U1 DE202022104108U1 DE202022104108.3U DE202022104108U DE202022104108U1 DE 202022104108 U1 DE202022104108 U1 DE 202022104108U1 DE 202022104108 U DE202022104108 U DE 202022104108U DE 202022104108 U1 DE202022104108 U1 DE 202022104108U1
- Authority
- DE
- Germany
- Prior art keywords
- measuring points
- objects
- lidar sensor
- radial
- fmcw lidar
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005259 measurement Methods 0.000 claims abstract description 65
- 238000011156 evaluation Methods 0.000 claims abstract description 36
- 238000012544 monitoring process Methods 0.000 claims abstract description 36
- 230000010287 polarization Effects 0.000 claims abstract description 28
- 230000001419 dependent effect Effects 0.000 claims abstract description 25
- 230000011218 segmentation Effects 0.000 description 25
- 230000033001 locomotion Effects 0.000 description 24
- 238000000034 method Methods 0.000 description 17
- 238000001514 detection method Methods 0.000 description 8
- 230000005693 optoelectronics Effects 0.000 description 8
- 230000003068 static effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000000691 measurement method Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011109 contamination Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000001681 protective effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/50—Systems of measurement based on relative movement of target
- G01S17/58—Velocity or trajectory determination systems; Sense-of-movement determination systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S17/34—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated using transmission of continuous, frequency-modulated waves while heterodyning the received signal, or a signal derived therefrom, with a locally-generated signal related to the contemporaneously transmitted signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4802—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4808—Evaluating distance, position or velocity data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/499—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using polarisation effects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
Vorrichtung (10, 90) zur Erfassung von Objekten (22, 24, 30, 96, 98, 100) in einem Überwachungsbereich (16, 106) mit
- wenigstens einem FMCW-LiDAR-Sensor (12, 92) zum Aussenden von Sendelichtstrahlen (14, ..., 14.n, 102.1, ..., 102.n) in den Überwachungsbereich (16, 106), zum Abtasten einer Vielzahl von Messpunkten (20.1, ..., 20n, 104.1, ..., 104.n) und zum Erzeugen von Messdaten (18) aus von den Messpunkten (20.1, ..., 20n, 104.1, ..., 104.n) remittiertem oder reflektiertem Sendelicht, wobei die Messdaten (18) Radialgeschwindigkeiten (vr n) der Messpunkte (20.1, ..., 20n, 104.1, ..., 104.n) umfassen, sowie
- einerSteuer- und Auswerteeinheit (32) zur Auswertung der Messdaten (18), dadurch gekennzeichnet, dass der FMCW-LiDAR-Sensor (12, 92) dazu eingerichtet ist, polarisationsabhängige Intensitäten (I⊥n, I∥n,) des von den Messpunkten (20.1, ..., 20n, 104.1, ..., 104.n) remittierten oder reflektierten Sendelichts zu erfassen, die Messdaten (18) die polarisationsabhängigen Intensitäten (I⊥n, I∥n,) umfassen, und die Steuer- und Auswerteeinheit (32) dazu ausgebildet ist, die Messpunkte (20.1, ..., 20n, 104.1, ..., 104.n) unter Verwendung der Radialgeschwindigkeiten (vr n) und der polarisationsabhängigen Intensitäten (I⊥n, I∥n,) zu segmentieren und zu Objekten (22, 24, 30, 96, 98, 100) und/oder Objektsegmenten (22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2) zusammenzufassen.
Device (10, 90) for detecting objects (22, 24, 30, 96, 98, 100) in a monitoring area (16, 106).
- at least one FMCW LiDAR sensor (12, 92) for emitting transmitted light beams (14, ..., 14.n, 102.1, ..., 102.n) into the monitoring area (16, 106), for scanning a Large number of measuring points (20.1, ..., 20n, 104.1, ..., 104.n) and for generating measurement data (18) from the measuring points (20.1, ..., 20n, 104.1, ..., 104 .n) remitted or reflected transmitted light, the measurement data (18) comprising radial velocities (v r n ) of the measuring points (20.1, ..., 20n, 104.1, ..., 104.n), as well as
- a control and evaluation unit (32) for evaluating the measurement data (18), characterized in that the FMCW LiDAR sensor (12, 92) is set up to generate polarization-dependent intensities (I ⊥n , I ∥n ,) of the To record remitted or reflected transmitted light at measuring points (20.1, ..., 20n, 104.1, ..., 104.n), the measurement data (18) include the polarization-dependent intensities (I ⊥n , I ∥n ,), and the tax - and evaluation unit (32) is designed to measure the measuring points (20.1, ..., 20n, 104.1, ..., 104.n) using the radial velocities (v r n ) and the polarization-dependent intensities (I ⊥n , I ∥n ,) to segment and combine into objects (22, 24, 30, 96, 98, 100) and/or object segments (22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2). .
Description
Die Erfindung betrifft eine Vorrichtung zur Erfassung von Objekten in einem Überwachungsbereich nach dem Oberbegriff von Anspruch 1.The invention relates to a device for detecting objects in a surveillance area according to the preamble of claim 1.
Zur Erfassung von Objekten werden häufig optoelektronische Sensoren wie Laserscanner oder 3D-Kameras eingesetzt, beispielweise für sicherheitstechnische Überwachungen. In der Sicherheitstechnik eingesetzte Sensoren müssen besonders zuverlässig arbeiten und deshalb hohe Sicherheitsanforderungen erfüllen, beispielsweise die Norm EN13849 für Maschinensicherheit und die Gerätenorm IEC61496 oder EN61496 für berührungslos wirkende Schutzeinrichtungen (BWS). Zur Erfüllung dieser Sicherheitsnormen sind eine Reihe von Maßnahmen zu treffen, wie sichere elektronische Auswertung durch redundante, diversitäre Elektronik, Funktionsüberwachung oder spezielle Überwachung der Verschmutzung optischer Bauteile.Optoelectronic sensors such as laser scanners or 3D cameras are often used to detect objects, for example for safety monitoring. Sensors used in safety technology must work particularly reliably and therefore meet high safety requirements, for example the EN13849 standard for machine safety and the device standard IEC61496 or EN61496 for non-contact protective devices (ESP). To meet these safety standards, a number of measures must be taken, such as secure electronic evaluation through redundant, diverse electronics, function monitoring or special monitoring of contamination of optical components.
In der
Aus der
Die
Die
Ein weiteres Anwendungsgebiet der Objekterfassung mittels optoelektronischer Sensoren liegt im Bereich der Verkehrsinfrastruktur, insbesondere der Infrastruktur-zu-Fahrzeug (Infrastructure-to-Vehicle, I2V) Kommunikation. Um hierbei aussagekräftige Daten bereit zu stellen, können die von den optoelektronischen erfassten Daten auf verschiedene Weisen segmentiert werden. Unter „Semantischer Segmentierung“ versteht man dabei die Zuordnung der von den optoelektronischen Sensoren erfassten Messpunkten zu einzelnen semantischen Klassen. Semantische Klassen können so genannte „Dinge“ (Objekte mit einer klar definierten Form wie beispielsweise ein Auto oder eine Person) oder so genannte „Sachen“ (amorphe Hintergrundregionen, beispielsweise eine Straße oder der Himmel) sein. Unter Instanzsegmentierung versteht man die Zuordnung von Messpunkten zu Objektinstanzen sowie zu einer vordefinierten Menge von Objektklassen (Auto 1, Auto 2, Fußgänger 1, etc.). Bei der Instanzsegmentierung werden jedoch nur „Dinge“ berücksichtigt. „Sachen“ werden im Rahmen der Instanzsegmentierung nicht klassifiziert. Diese Einschränkung der Instanzsegmentierung wird bei der panoptischen Segmentierung aufgehoben. Hierwerden sowohl „Dinge“ als auch „Sachen“ in Instanzen und Klassen eingeteilt.Another area of application for object detection using optoelectronic sensors is in the area of transport infrastructure, in particular infrastructure-to-vehicle (I2V) communication. In order to provide meaningful data, the data recorded by the optoelectronic devices can be segmented in various ways. “Semantic segmentation” refers to the assignment of the measurement points recorded by the optoelectronic sensors to individual semantic classes. Semantic classes can be so-called “things” (objects with a clearly defined shape, such as a car or a person) or so-called “things” (amorphous background regions, such as a road or the sky). Instance segmentation refers to the assignment of measurement points to object instances as well as to a predefined set of object classes (car 1, car 2, pedestrian 1, etc.). However, instance segmentation only takes “things” into account. “Things” are not classified as part of instance segmentation. This limitation of instance segmentation is removed with panoptic segmentation. Here both “things” and “things” are divided into instances and classes.
Die im Stand der Technik üblicherweise zur Objekt- und/oder Personendetektion verwendeten Bilderfassungssysteme, insbesondere Laserscanner und Kamerasysteme, weisen Nachteile auf, auf die im Folgenden näher eingegangen werden soll. The image capture systems commonly used in the prior art for object and/or person detection, in particular laser scanners and camera systems, have disadvantages which will be discussed in more detail below.
Laserscanner oder LiDAR (Light Detection And Ranging) - Sensoren basieren meist auf einer direkten Lichtlaufzeitmessung. Hierbei wird ein Lichtpuls vom Sensor ausgesandt, an einem Objekt reflektiert und wieder vom Sensor detektiert. Die Laufzeit des Lichtpulses wird vom Sensor bestimmt und über die Lichtgeschwindigkeit im Propagationsmedium (in der Regel Luft) die Entfernung zwischen Sensor und Objekt geschätzt. Da die Phase der elektromagnetischen Welle hierbei nicht berücksichtigt wird, spricht man von einem inkohärenten Messprinzip. Bei einer inkohärenten Messung besteht die Notwendigkeit, Pulse aus vielen Photonen aufzubauen, um den reflektierten Puls mit ausreichendem Signal-Rausch-Verhältnis zu empfangen. Die Anzahl der Photonen innerhalb eines Pulses ist im industriellen Umfeld in der Regel durch den Augenschutz nach oben limitiert. In der Folge ergeben sich Abwägungen zwischen maximaler Reichweite, minimaler Remission des Objektes, Integrationszeit und den Anforderungen an das Signal-Rausch-Verhältnis des Sensorsystems. Inkohärente Strahlung bei gleicher Wellenlänge (Umgebungslicht) wirkt sich zudem direkt auf den dynamischen Bereich des Lichtempfängers aus. Beispiele für inkohärente Strahlung bei gleicher Wellenlänge sind die Sonne, ähnliche Sensorsysteme, oder das identische Sensorsystem über eine Mehrwegeausbreitung, also unerwünschte Reflexionen.Laser scanners or LiDAR (Light Detection And Ranging) sensors are usually based on direct light transit time measurement. A light pulse is emitted by the sensor, reflected on an object and detected again by the sensor. The transit time of the light pulse is determined by the sensor and the distance between the sensor and the object is estimated using the speed of light in the propagation medium (usually air). Since the phase of the electromagnetic wave is not taken into account, this is referred to as an incoherent measuring principle. In the case of an incoherent measurement, there is a need to build up pulses from many photons in order to receive the reflected pulse with a sufficient signal-to-noise ratio. In an industrial environment, the number of photons within a pulse is usually limited by eye protection. As a result, trade-offs arise between maximum range, minimum remission of the object, integration time and the requirements for the signal-to-noise ratio of the sensor system. Incoherent radiation at the same wavelength (ambient light) also has a direct effect on the dynamic range of the light receiver. Examples of incoherent radiation at the same wavelength are the sun, similar sensor systems, or the identical sensor system via multipath propagation, i.e. unwanted reflections.
Aus dem Stand der Technik bekannte Kamerasysteme basieren auf Messprinzipien wie beispielsweise der Stereoskopie oder der indirekten Lichtlaufzeitmessung. Bei der indirekten Lichtlaufzeitmessung wird die Phasendifferenz eines AMCW (Amplitude Modulated Continous Wave)-Sendesignals und dessen zeitlich verzögerter Kopie nach Reflektion mit einem Objekt bestimmt. Die Phasendifferenz entspricht der Lichtlaufzeit und kann über die Lichtgeschwindigkeit im Propagationsmedium in einen Distanzwert umgerechnet werden. Sowohl die Stereoskopie als auch die indirekte Lichtlaufzeitmessung sind ebenfalls inkohärente Messverfahren mit den oben genannten Nachteilen.Camera systems known from the prior art are based on measurement principles such as stereoscopy or indirect light transit time measurement. With indirect time-of-flight measurement, the phase difference of an AMCW (Amplitude Modulated Continuous Wave) transmission signal and its time-delayed copy are determined after reflection with an object. The phase difference corresponds to the transit time of light and can be converted into a distance value using the speed of light in the propagation medium. Both stereoscopy and indirect time-of-flight measurement are also incoherent measurement methods with the disadvantages mentioned above.
Millimeterwellenlängen Radarsensoren basieren auf einem frequenz-modulierten-Dauerstrich-Messprinzip (FMCW) und können unter Ausnutzung des Dopplereffekts auch Radialgeschwindigkeiten eines erfassten Objekts bestimmen. Der größte Nachteil von millimeterwellenlängen Radarsensoren im Vergleich zu optischen Technologien ist die deutlich größere Wellenlänge und die damit geringere räumliche Auflösung. Darüber hinaus beschränken regulatorische Bestimmungen die radiale Auflösung durch Beschränkung der Bandbreite und in einem MIMO (Multiple Input Multiple Output) - Radarsystem die Anzahl an verfügbaren virtuellen Antennen (Produkt aus der Anzahl der Sende- und Empfangsantennen) die Winkelauflösung. Geometrische physikalische Merkmale sind daher im Vergleich zu optischen Technologien bei der sicherheitsgerichteten Objekt- und/oder Personendetektion kaum nutzbar.Millimeter wavelength radar sensors are based on a frequency-modulated continuous wave measurement principle (FMCW) and can also determine the radial velocities of a detected object using the Doppler effect. The biggest disadvantage of millimeter wavelength radar sensors compared to optical technologies is the significantly longer wavelength and therefore lower spatial resolution. In addition, regulatory regulations limit the radial resolution by limiting the bandwidth and, in a MIMO (Multiple Input Multiple Output) radar system, the number of available virtual antennas (product of the number of transmitting and receiving antennas) the angular resolution. Geometric physical features are therefore hardly usable in safety-related object and/or person detection compared to optical technologies.
In der
Es ist daher Aufgabe der Erfindung, eine Vorrichtung zur Erfassung von Objekten in einem Überwachungsbereich mit einem FMCW-LIDAR-Sensor zu verbessern.It is therefore the object of the invention to improve a device for detecting objects in a surveillance area with an FMCW LIDAR sensor.
Diese Aufgabe wird durch eine Vorrichtung zur Erfassung von Objekten in einem Überwachungsbereich nach Anspruch 1 gelöst.This object is achieved by a device for detecting objects in a surveillance area according to claim 1.
Die erfindungsgemäße Vorrichtung weist wenigstens einen optoelektronischen Sensor auf, der als frequenz-modulierter-Dauerstrich (Frequency Modulated Continuous Wave, FMCW) - LiDAR-Sensor ausgebildet ist und beispielsweise an einer Maschine, einem Fahrzeug oder ortsfest angeordnet sein kann. Grundlagen der FMCW-LiDAR Technologie sind beispielsweise in der wissenschaftlichen Veröffentlichung „Linear FMCW Laser Radar for Precision Range and Vector Velocity Measurements“ (Pierrottet, D., Amzajerdian, F., Petway, L., Barnes, B., Lockard, G., & Rubio, M. (2008). Linear FMCW Laser Radar for Precision Range and Vector Velocity Measurements. MRS Proceedings, 1076, 1076-K04-06. doi:10.1557/PROC-1076-K04-06) oder der Doktorarbeit „Realization of Integrated Coherent LiDAR“ (T. Kim, University of California, Berkeley, 2019. https://escholarship.org/uc/item/1d67v62p) beschrieben.The device according to the invention has at least one optoelectronic sensor, which is designed as a frequency modulated continuous wave (FMCW) LiDAR sensor and can be arranged, for example, on a machine, a vehicle or stationary. The basics of FMCW-LiDAR technology can be found, for example, in the scientific publication “Linear FMCW Laser Radar for Precision Range and Vector Velocity Measurements” (Pierrottet, D., Amzajerdian, F., Petway, L., Barnes, B., Lockard, G. , & Rubio, M. (2008). Linear FMCW Laser Radar for Precision Range and Vector Velocity Measurements. MRS Proceedings, 1076, 1076-K04-06. doi:10.1557/PROC-1076-K04-06) or the doctoral thesis “Realization of Integrated Coherent LiDAR” (T. Kim, University of California, Berkeley, 2019. https://escholarship.org/uc/item/1d67v62p).
Im Gegensatz zu einem auf Lichtlaufzeitmessung von Laserpulsen basierenden LiDAR-Sensor sendet ein FMCW-LiDAR-Sensor keine gepulsten, sondern kontinuierliche Sendelichtstrahlen in den Überwachungsbereich aus, die während einer Messung, also einer zeitdiskreten Abtastung eines Messpunktes im Überwachungsbereich, eine vorgegebene Frequenzmodulation, das heißt eine zeitliche Änderung der Wellenlänge des Sendelichts, aufweisen. Die Messfrequenz liegt dabei typischerweise im Bereich von 10 bis 30 Hz. Die Frequenzmodulation kann beispielsweise als periodische Auf- und Abwärtsmodulation ausgebildet sein. Von Messpunkten im Überwachungsbereich reflektiertes oder remittiertes Sendelicht, weist im Vergleich zum ausgestrahlten Sendelicht einen Zeitversatz entsprechend der Lichtlaufzeit auf, die von der Entfernung des Messpunktes vom Sensor abhängt und aufgrund der Frequenzmodulation mit einer Frequenzverschiebung einhergeht. Im FMCW-LiDAR-Sensorwerden ausgestrahltes und reflektiertes Sendelicht kohärent überlagert, wobei aus dem Überlagerungssignal die Entfernung des Messpunktes vom Sensor bestimmt werden kann. Das Messprinzip der kohärenten Überlagerung hat im Vergleich zu gepulsten oder amplituden-modulierten inkohärenten LiDAR Messprinzipien unter anderem den Vorteil einer erhöhten Immunität bezüglich Fremdlicht von beispielsweise anderen optischen Sensoren/Sensorsysteme oder der Sonne. Gegenüber Radarsensoren mit Wellenlängen im Bereich von Millimetern verbessert sich die Ortsauflösung, wodurch geometrische Eigenschaften einer Person messbar werden.In contrast to a LiDAR sensor based on the time-of-flight measurement of laser pulses, an FMCW LiDAR sensor does not emit pulsed, but continuous light beams into the monitoring area, which during a measurement, i.e. a discrete-time scanning of a measuring point in the monitoring area, produce a predetermined frequency modulation, i.e a temporal change in the wavelength of the transmitted light. The measurement frequency is typically in the range from 10 to 30 Hz. The frequency modulation can, for example, be designed as periodic up and down modulation. Transmitted light reflected or remitted from measuring points in the monitoring area has a time offset compared to the emitted transmitted light corresponding to the light transit time, which depends on the distance of the measuring point from the sensor and is accompanied by a frequency shift due to the frequency modulation. In the FMCW LiDAR sensor, emitted and reflected light is coherently superimposed, whereby the distance of the measuring point from the sensor can be determined from the superimposition signal. Compared to pulsed or amplitude-modulated incoherent LiDAR measuring principles, the measuring principle of coherent overlay has, among other things, the advantage of increased immunity to extraneous light for example other optical sensors/sensor systems or the sun. Compared to radar sensors with wavelengths in the millimeter range, the spatial resolution is improved, making a person's geometric properties measurable.
Bewegt sich ein Messpunkt mit einer Radialgeschwindigkeit auf den Sensor zu oder vom Sensor weg, weist das reflektierte Sendelicht zusätzlich eine Dopplerverschiebung auf. Diese Veränderung der Sendelichtfrequenz kann ein FMCW-LiDAR-Sensor bestimmen und daraus die Entfernung und die Radialgeschwindigkeit eines Messpunkts in einer einzigen Messung, also einer einmaligen Abtastung eines Messpunktes, bestimmen, während bei einem auf Lichtlaufzeitmessung von Laserpulsen basierenden LiDAR-Sensor für eine Bestimmung der Radialgeschwindigkeit wenigstens zwei Messungen, also zwei zeitlich beabstandete Abtastungen des gleichen Messpunktes, nötig sind.If a measuring point moves towards or away from the sensor at a radial speed, the reflected transmitted light also has a Doppler shift. An FMCW LiDAR sensor can determine this change in the transmitted light frequency and use it to determine the distance and the radial speed of a measuring point in a single measurement, i.e. a one-time scanning of a measuring point, while a LiDAR sensor based on the time-of-flight measurement of laser pulses can determine the Radial velocity at least two measurements, i.e. two time-spaced scans of the same measuring point, are necessary.
Der FMCW-LiDAR-Sensor ist weiterhin dazu eingerichtet, polarisationsabhängige Intensitäten des von den Messpunkten reflektierten oder remittierten Sendelichts zu erfassen.Dazu weist der FMCW-LiDAR-Sensor eine Auskopplungseinheit auf, die dazu ausgebildet ist, wenigstens einen Teil des von den Messpunkten im Überwachungsbereich reflektierten oder remittierten Sendelichts, im Folgenden auch als Empfangslicht bezeichnet, auszukoppeln und auf einen Polarisationsanalysator zu leiten, beispielsweise durch einen Strahlteiler mit vorgegebenen Teilungsverhältnis.The FMCW LiDAR sensor is also set up to detect polarization-dependent intensities of the transmitted light reflected or remitted by the measuring points. For this purpose, the FMCW LiDAR sensor has an outcoupling unit which is designed to detect at least part of the light emitted by the measuring points in the monitoring area reflected or remitted transmitted light, hereinafter also referred to as received light, and directed to a polarization analyzer, for example through a beam splitter with a predetermined division ratio.
Der Polarisationsanalysator ist dazu eingerichtet, die polarisationsabhängigen Intensitäten des Empfangslichts zu messen, beispielswiese durch polarisationsabhängiges Aufteilen des Empfangslichts mit einen polarisierenden Strahlteilerwürfel oder einer Metaoberfläche, und Messen der Intensitäten des aufgeteilten Empfangslichts durch geeignete Detektoren.The polarization analyzer is set up to measure the polarization-dependent intensities of the received light, for example by polarization-dependent splitting of the received light using a polarizing beam splitter cube or a metasurface, and measuring the intensities of the split received light using suitable detectors.
Bei zeit- und raumdiskreter Abtastung eines dreidimensionalen Überwachungsbereichs kann ein erfindungsgemäßer FMCW-LiDAR-Sensor somit folgende Messdaten erfassen:
Hierbei bezeichnen rj,k,l den Radialabstand, Vrj,k,l die Radialgeschwindigkeit sowie I⊥j,k,l und l∥j,k,l die polarisationsabhängigen Intensitäten jedes raumdiskreten Messpunktes j,k mit zweidimensionaler, durch Azimutwinkel φ und Polarwinkel θ angegebener Position (φj, θk) für jede zeitdiskrete Abtastung I. Zur einfachen Lesbarkeit wird im Folgenden der Index n für eine einmalige zeitdiskrete Abtastung eines raumdiskreten, zweidimensionalen Messpunkts (φj, θk) im dreidimensionalen Überwachungsbereich verwendet.Here r j,k,l denote the radial distance, V r j ,k,l the radial velocity and I ⊥j,k,l and l ∥j,k,l the polarization-dependent intensities of each spatially discrete measuring point j,k with a two-dimensional azimuth angle φ and polar angle θ specified position (φ j , θ k ) for each discrete-time sampling I. For easy readability, the index n is used below for a one-time discrete-time sampling of a spatially discrete, two-dimensional measuring point (φ j , θ k ) in the three-dimensional monitoring area.
Zur Auswertung der vom FMCW-LiDAR-Sensor erfassten Messdaten weist die erfindungsgemäße Vorrichtung eine Steuer- und Auswerteeinheit auf, die dazu ausgebildet ist, die Messpunkte unter Verwendung der ortsaufgelösten Radialgeschwindigkeit der Messpunkte und den polarisationsabhängigen Intensitäten des von den Messpunkten reflektierten oder remittierten Sendelichts zu segmentieren und zu Objekten und/oder Objektsegmenten zusammenzufassen. Als Objektsegmente sind dabei einzeln bewegliche Teile eines aus mehreren Teilen bestehenden Objektes zu verstehen, beispielsweise die Gliedmaßen eines menschlichen Körpers, die Komponenten eines Roboterarms oder Räder eines Fahrzeugs.To evaluate the measurement data recorded by the FMCW LiDAR sensor, the device according to the invention has a control and evaluation unit which is designed to segment the measuring points using the spatially resolved radial velocity of the measuring points and the polarization-dependent intensities of the transmitted light reflected or remitted by the measuring points and combine them into objects and/or object segments. Object segments are understood to be individually movable parts of an object consisting of several parts, for example the limbs of a human body, the components of a robot arm or the wheels of a vehicle.
Die Erfindung hat den Vorteil, dass durch die Verwendung der ortsaufgelösten Radialgeschwindigkeit und den polarisationsabhängigen Intensitäten des von den Messpunkten reflektierten oder remittierten Sendelichts als zusätzlichen Parametern eine verbesserte Segmentierung der Messdaten möglich ist. Diese gilt insbesondere auch für bekannte Segmentierungsverfahren der digitalen Bildverarbeitung oder des maschinellen Sehens.The invention has the advantage that improved segmentation of the measurement data is possible by using the spatially resolved radial velocity and the polarization-dependent intensities of the transmitted light reflected or remitted from the measuring points as additional parameters. This also applies in particular to known segmentation methods in digital image processing or machine vision.
Die Steuer- und Auswerteeinheit kann weiterhin dazu ausgebildet sein, Radialgeschwindigkeiten der Objekte und/oder Objektsegmente zu bestimmen und Merkmale der Objekte und/oder Objektsegmente zu extrahieren, die auf den Radialgeschwindigkeiten der Objektsegmente basieren. Bei den extrahierten Merkmalen kann es sich beispielsweise um statistische Maße wie Mittelwert oder Standardabweichung, um höhere Momente, oder Histogramme der Radialgeschwindigkeiten der Objekte und/oder Objektsegmente handeln, die charakteristisch für eine Objekt- und/oder Objektsegmentbewegung sein können.The control and evaluation unit can further be designed to determine radial velocities of the objects and/or object segments and to extract features of the objects and/or object segments that are based on the radial velocities of the object segments. The extracted features can be, for example, statistical measures such as mean or standard deviation, higher moments, or histograms of the radial velocities of the objects and/or object segments, which can be characteristic of an object and/or object segment movement.
Vorteilhafterweise kann die Steuer- und Auswerteeinheit dazu ausgebildet sein, die auf den Radialgeschwindigkeiten der Objekte und/oder Objektsegmente basierenden Merkmale zu einer Klassifizierung der Objekte und/oder Objektsegmente zu verwenden. Durch diese zusätzlichen Merkmale ist eine verbesserte Klassifizierung der Objekte und/oder der Objektsegmente möglich.Advantageously, the control and evaluation unit can be designed to use the features based on the radial velocities of the objects and/or object segments to classify the objects and/or object segments. These additional features enable an improved classification of the objects and/or the object segments.
In einer Ausführungsform kann die Steuer- und Auswerteeinheit dazu ausgebildet sein, die Messdaten unter Verwendung der Radialgeschwindigkeiten der Messpunkte zu filtern. Somit kann bereits vor einer Segmentierung der Messpunkte der Rechenaufwand durch Datenreduktion vermindert werden. Eine Filterung kann beispielsweise dadurch erfolgen, dass Messpunkte mit einer Radialgeschwindigkeit kleiner, größer oder gleich einem vorgegebenen Schwellenwert verworfen und keiner weiteren Auswertung zugeführt werden. Beispielsweise können im Falle einer Antikollisionsfunktion Objekte und/oder Objektsegmente, die sich mit dem Sensor bewegen (vr = 0) oder sich vom Sensor entfernen (vr > 0), verworfen werden.In one embodiment, the control and evaluation unit can be designed to process the measurement data using the radial speed to filter the values of the measuring points. This means that the computational effort can be reduced through data reduction even before the measuring points are segmented. Filtering can be carried out, for example, by discarding measuring points with a radial velocity smaller, larger or equal to a predetermined threshold value and not subjected to any further evaluation. For example, in the case of an anti-collision function, objects and/or object segments that move with the sensor (v r = 0) or move away from the sensor (v r > 0) can be discarded.
Der FMCW-LiDAR-Sensor kann stationär angeordnet sein und einen vorgegebenen Überwachungsbereich abtasten. Vorzugsweise kann wenigstens ein weiterer FMCW-LiDAR-Sensor vorgesehen sein, der einen weiteren Überwachungsbereich abtastet, wobei sich die Überwachungsbereiche überlappen können. Dadurch können Abschattungen oder tote Winkel, in denen keine Objekterfassung möglich ist, vermieden werden. Werden zwei oder mehrere FMCW-LiDAR Sensoren so zueinander angeordnet, dass orthogonal zueinander stehende Messtrahlen erzeugt werden können, kann durch Verrechnung dieser Messstrahlenpaare ein Geschwindigkeitsvektor eines durch diese Messstrahlen abgetasteten Objekts in der durch die orthogonal zueinander stehenden Messtrahlen aufgespannten Ebene bestimmt werden.The FMCW LiDAR sensor can be arranged stationary and scan a predetermined monitoring area. Preferably, at least one further FMCW LiDAR sensor can be provided, which scans a further monitoring area, whereby the monitoring areas can overlap. This makes it possible to avoid shadows or blind spots in which object detection is not possible. If two or more FMCW LiDAR sensors are arranged relative to one another in such a way that measurement beams that are orthogonal to one another can be generated, a velocity vector of an object scanned by these measurement beams can be determined by calculating these pairs of measurement beams in the plane spanned by the measurement beams that are orthogonal to one another.
Der FMCW-LiDAR-Sensor kann an einer Maschine angeordnet sein, insbesondere an einem führerlosen Fahrzeug (automated guided vehicle, AGV) oder an einem Roboter. Der Roboter kann sich als Ganzes in Bewegung befinden (mobile robot) oder Bewegungen mittels verschiedener Achsen und Gelenke durchführen. Der Sensor kann dann Bewegungen der Maschine mit vollführen und einen veränderlichen Überwachungsbereich abtasten.The FMCW LiDAR sensor can be arranged on a machine, in particular on an automated guided vehicle (AGV) or on a robot. The robot can be in motion as a whole (mobile robot) or can carry out movements using different axes and joints. The sensor can then follow the machine's movements and scan a changing monitoring area.
Der Sensor kann vorzugsweise sicher im Sinne der einleitend genannten oder vergleichbarer Normen ausgeführt sein. Die Steuer- und Auswertungseinheit kann in den Sensor integriert oder daran angeschlossen sein, etwa in Form einer Sicherheitssteuerung oder einer übergeordneten Steuerung, die auch mit der Maschinensteuerung kommuniziert. Zumindest Teile der Funktionalität können auch in einem Remote-System oder einer Cloud implementiert sein.The sensor can preferably be designed to be safe in accordance with the standards mentioned in the introduction or comparable standards. The control and evaluation unit can be integrated into the sensor or connected to it, for example in the form of a safety controller or a higher-level controller that also communicates with the machine controller. At least parts of the functionality can also be implemented in a remote system or a cloud.
Der Sensor kann vorzugsweise an oder in der Nähe von einem gefahrbringenden Maschinenteil angebracht, wie etwa einer Werkzeugspitze. Wenn es sich beispielsweise um einen Roboter mit vielen Achsen handelt, ist für den Sensor deren Zusammenspiel nicht relevant, da der Sensor einfach die resultierende Bewegung am Ort der Gefahr nachvollzieht.The sensor can preferably be attached to or near a dangerous machine part, such as a tool tip. For example, if it is a robot with many axes, their interaction is not relevant to the sensor, as the sensor simply tracks the resulting movement at the location of the danger.
In einer Weiterbildung der Erfindung können mehrere optoelektronische Sensoren an der Maschine angebracht sein, um die Bewegung von beweglichen Teilen der Maschine zu bestimmen. Damit lassen sich auch komplexe Maschinen überwachen, bei denen eine punktuelle Bestimmung der Bewegung nicht ausreicht. Ein Beispiel ist ein Roboter mit mehreren Roboterarmen und eventuell Gelenken. Mindestens ein stationärer, also nicht mit der Maschine mitbewegter optoelektronischer Sensor, kann die Maschine zusätzlich beobachten.In a further development of the invention, several optoelectronic sensors can be attached to the machine in order to determine the movement of moving parts of the machine. This means that even complex machines can be monitored where a specific determination of movement is not sufficient. An example is a robot with multiple robotic arms and possibly joints. At least one stationary optoelectronic sensor, i.e. one that does not move with the machine, can also monitor the machine.
In einer Ausführungsform der Erfindung kann die Vorrichtung zur Verkehrsüberwachung eingerichtet sein, wobei die Steuer- und Auswerteeinrichtung dazu ausgebildet sein kann, die Messpunkte unter Verwendung der Messdaten, insbesondere der Radialgeschwindigkeiten und der polarisationsabhängigen Intensitäten, Fahrzeugkategorien zuzuordnen und Fahrzeugkategorie-spezifisch auszuwerten, beispielsweise zur Überwachung von Fahrzeugkategorie-spezifischen Geschwindigkeitsbeschränkungen (z.B. 80 km/h für einen LKW und 120 km/h für einen PKW.In one embodiment of the invention, the device can be set up for traffic monitoring, wherein the control and evaluation device can be designed to assign the measuring points to vehicle categories using the measurement data, in particular the radial velocities and the polarization-dependent intensities, and to evaluate them in a vehicle category-specific manner, for example for monitoring of vehicle category-specific speed restrictions (e.g. 80 km/h for a truck and 120 km/h for a car.
In einer Ausführungsform der Erfindung kann die Vorrichtung zur Messung von Geschwindigkeitsüberschreitungen bei niedrigen Geschwindigkeiten, insbesondere bei Geschwindigkeiten unterhalb von 30 km/h, eingerichtet sein.In one embodiment of the invention, the device can be set up to measure speeding at low speeds, in particular at speeds below 30 km/h.
In einer Ausführungsform der Erfindung kann die Vorrichtung zur Kennzeichenerkennung von Fahrzeugen eingerichtet sein, wobei bei ausreichender räumlicher Auflösung des FMCW-LIDAR-Sensors die Steuer- und Auswerteeinrichtung dazu ausgebildet sein kann, durch die Segmentierung der Messpunkte ein Kennzeichen eines Fahrzeugs ohne weitere kamerabasierte Sensorik zu erfassen. In einer alternativen Ausführungsform zur Kennzeichenerkennung von Fahrzeugen kann die Steuer- und Auswerteeinrichtung dazu ausgebildet sein, bei unzureichender räumlicher Auflösung des FMCW LIDAR-Sensors eine Kamera zu triggern und deren optimale Integrationszeit entsprechend der Fahrzeuggeschwindigkeit einzustellen, um ein optimales Kamerabild zu generieren.In one embodiment of the invention, the device can be set up for license plate recognition of vehicles, whereby if the spatial resolution of the FMCW LIDAR sensor is sufficient, the control and evaluation device can be designed to assign a license plate number of a vehicle without further camera-based sensors by segmenting the measuring points capture. In an alternative embodiment for license plate recognition of vehicles, the control and evaluation device can be designed to trigger a camera if the spatial resolution of the FMCW LIDAR sensor is insufficient and to set its optimal integration time according to the vehicle speed in order to generate an optimal camera image.
In einer weiteren Ausführungsform kann die Vorrichtung zur Messung eines Verkehrsflusses eingerichtet sein, wobei die Steuer- und Auswerteeinheit dazu ausgebildet ist, durch Segmentierung der Messpunkte in dynamische und statische Objekte ein Maß für den Verkehrsfluss zu ermitteln, beispielsweise durch Definieren eines statischen Bereichs wie einer Fahrbahn als 2D oder 3D „Region-of-interest“ (ROI) im Überwachungsbereich des Sensors und Berechnen einer mittleren Radialgeschwindigkeit aller Messpunkte innerhalb dieser ROI. Die Verkehrsflussmessung kann mit einer Klassifizierung der segmentierten Objekte gekoppelt werden, um so den Verkehrsfluss für verschiedene Klassen von Verkehrsteilnehmern getrennt zu ermitteln.In a further embodiment, the device can be set up to measure a traffic flow, wherein the control and evaluation unit is designed to determine a measure of the traffic flow by segmenting the measuring points into dynamic and static objects, for example by defining a static area such as a roadway as a 2D or 3D “Region of Interest” (ROI) in the monitoring area of the sensor and calculating an average radial velocity of all measurement points within this ROI. The traffic flow measurement can be coupled with a classification of the segmented objects in order to determine the traffic flow separately for different classes of road users.
In einer weiteren Ausführungsform kann die Vorrichtung zur Verfolgung und Trajektorienvorhersage von Verkehrsteilnehmern eingerichtet sein, wobei die Steuer- und Auswerteeinheit dazu ausgebildet ist, Messpunkte Verkehrsteilnehmern zuzuordnen, Trajektorienvorhersagen der Verkehrsteilnehmer unter Verwendung der Radialgeschwindigkeiten der den Verkehrsteilnehmern zugeordneten Messpunkte zu berechnen und die Trajektorienvorhersagen an autonome Fahrzeuge zur Fahrentscheidungsfindung weiterzuleiten. Sind 3D-Geschwindigkeitsvektoren der Verkehrsteilnehmer bekannt, entweder durch Verrechnung von gemessenen Radialgeschwindigkeiten orthogonaler FMCW-LIDAR-Messtrahlenpaare oder durch Fusion von Daten weiterer Sensormodalitäten wie beispielsweise Radar, Kamera oder LIDAR-Sensoren, so können diese die Trajektorienvorhersage zusätzlich verbessern.In a further embodiment, the device can be set up for tracking and trajectory prediction of road users, wherein the control and evaluation unit is designed to assign measurement points to road users, to calculate trajectory predictions of the road users using the radial speeds of the measurement points assigned to the road users and to send the trajectory predictions to autonomous vehicles for driving decision making. If the 3D speed vectors of road users are known, either by calculating the measured radial speeds of orthogonal FMCW-LIDAR measuring beam pairs or by fusing data from other sensor modalities such as radar, camera or LIDAR sensors, these can further improve the trajectory prediction.
Die Erfindung wird nachstehend auch hinsichtlich weiterer Merkmale und Vorteile beispielhaft anhand von Ausführungsformen und unter Bezug auf die beigefügte Zeichnung näher erläutert. Die Abbildungen der Zeichnung zeigen in:
-
1 ein Beispiel für eine Radialgeschwindigkeitsmessung mit einem FMCW-LiDAR-Sensor; -
2 eine schematische Darstellung einer erfindungsgemäßen Vorrichtung zur Überwachung eines Roboters; -
3 eine schematische Darstellung einer erfindungsgemäßen Vorrichtung zur Verkehrsüberwachung; -
4 ein Ablaufdiagram für eine beispielhafte erfindungsgemäße Verarbeitung von Messdaten eines FMCW-LiDAR-Sensors; -
5 ein beispielhaftes Ablaufdiagramm zur Überwachung einer Bewegung eines Roboters; -
6 ein beispielhaftes Ablaufdiagramm zur Vermeidung einer Kollision zweier Fahrzeuge 96, 98im 12V Umfeld;
-
1 an example of a radial velocity measurement with an FMCW LiDAR sensor; -
2 a schematic representation of a device according to the invention for monitoring a robot; -
3 a schematic representation of a traffic monitoring device according to the invention; -
4 a flowchart for an exemplary processing according to the invention of measurement data from an FMCW LiDAR sensor; -
5 an exemplary flowchart for monitoring movement of a robot; -
6 an exemplary flowchart for avoiding a collision between two 96, 98 in the 12V environment;vehicles
In
Diese Informationen (Radialabstand r, Radialgeschwindigkeit vr, polarisationsabhängige Intensitäten I⊥, I∥) stehen direkt mit einer Messung, also einer zeitdiskreten Abtastung des Messpunktes 20 zur Verfügung. Zur Identifikation bewegter Objekte entfällt somit im Unterschied zu Messverfahren, die lediglich ortsaufgelöste Radialabstände, also dreidimensionale Positionen, liefern, die Notwendigkeit einer zweiten Messung und insbesondere die Notwendigkeit, in den Messdaten der zweiten Messung zunächst die Messpunkte zu ermitteln, die den Messpunkten der ersten Messung entsprechen.This information (radial distance r, radial velocity v r , polarization-dependent intensities I ⊥, I ∥ ) is available directly with a measurement, i.e. a discrete-time sampling of the
Im Falle eines statischen FMCW-LiDAR-Sensors ist jeder Messpunkt mit einer Radialgeschwindigkeit von Null in der Regel einem statischen Objekt zugeordnet, sofern sich dieses nicht tangential zum Messstrahl des Sensors bewegt. Aufgrund der endlichen Objektausdehnung und der hohen räumlichen Auflösung des FMCW-LiDAR-Sensors wird praktisch jedes bewegte Objekt wenigstens einen Messpunkt 20 mit einer von Null verschiedenen Radialgeschwindigkeit vr n zum FMCW-LiDAR-Sensor 12 aufweisen. Daher lassen sich bereits mit einer Messung des FMCW-LiDAR-Sensors 12 statische und bewegte, beziehungsweise in mobilen Applikationen sich entfernende oder nähernde Objekte unterscheiden. So können beispielsweise bei einer Antikollisionsüberwachung sich entfernende Messpunkte respektive sich entfernende Objekte verworfen werden. Durch eine entsprechende Datenreduktion werden Rechenaufwände bei der weiteren Auswertung der Messdaten reduziert.In the case of a static FMCW LiDAR sensor, each measuring point with a radial velocity of zero is usually assigned to a static object, as long as it does not move tangentially to the sensor's measuring beam. Due to the finite object extent and the high spatial resolution of the FMCW LiDAR sensor, practically every moving object will have at least one
Die von der Steuer- und Auswerteeinheit 32 empfangenen Messdaten Mn 18 des FMCW-LiDAR-Sensors 12 umfassen für jede zeitdiskrete Abtastung die Radialabstände rn, der Messpunkte 20.1, ..., 20.n vom FMCW-LiDAR-Sensor 12, die polarisationsabhängigen Intensitäten I⊥n, I∥n des von den Messpunkten 20.1, ..., 20.n reflektierten oder remittierten Sendelichts und die Radialgeschwindigkeiten vr n der Messpunkte 20.1, ..., 20.n, wobei mit Radialgeschwindigkeit vr n die Geschwindigkeitskomponente eines Messpunkts 20.1, ..., 20.n bezeichnet wird, mit der sich der Messpunkt 20.1, ..., 20.n auf den FMCW-LiDAR-Sensor 12 zu oder vom FMCW-LiDAR-Sensor 12 weg bewegt.The
Die Messdaten Mn 18 werden von einer Steuer- und Auswerteeinheit 32 ausgewertet, wobei die Steuer- und Auswerteeinheit 32 dazu eingerichtet ist, die Messpunkte 20.1, ..., 20.n unter Verwendung der Radialgeschwindigkeiten vr n der Messpunkte 20.1, ..., 20.n und der polarisationsabhängigen Intensitäten I⊥n, I∥n, des von den Messpunkten 20.1, ..., 20.n reflektierten oder remittierten Sendelichts zu segmentieren und zu Objektsegmenten 22.1, 22.2, 22.3, 24.1, 24.2, 24.3 und/oder Objekten zusammen zu fassen. Basierend auf der Erfassung kann die Steuer- und Auswerteeinheit 32 ein sicherheitsgerichtetes Signal zum Auslösen einer sicherheitsgerichteten Aktion erzeugen. Bei der sicherheitsgerichteten Aktion kann es sich beispielsweise um die Aktivierung einer Warnleuchte 34 oder das Stoppen des Roboters 24 handeln. Im Ausführungsbeispiel ist die Steuer- und Auswerteeinheit 32 direkt mit der Warnleuchte 34 und dem Roboter 24 verbunden, löst also die sicherheitsgerichtete Aktion selbst aus. Alternativ kann die Steuer- und Auswerteeinheit 32 ein sicherheitsgerichtetes Signal über eine Schnittstelle 36 an eine übergeordnete Sicherheitssteuerung (nicht gezeigt) weitergeben, oder die Steuer- und Auswerteeinheit 32 kann selbst Teil einer Sicherheitssteuerung sein.The
Der FMCW-LiDAR-Sensor 92 ist dazu ausgebildet, polarisationsabhängige Intensitäten I⊥n, I∥n des von den Messpunkten 104.1, ..., 104.n reflektierten oder remittierten Sendelichts zu erfassen, so dass die vom FMCW-LiDAR-Sensor 92 erzeugten Messdaten Radialabstände rn und Radialgeschwindigkeiten vr n der Messpunkte 104.1, ..., 104.n sowie die polarisationsabhängigen Intensitäten I⊥n, I∥n,des von den Messpunkten 104.1, ..., 104.n reflektierten oder remittierten Sendelichts umfassen, wobei mit Radialgeschwindigkeitvr ndie Geschwindigkeitskomponente eines Messpunkts 104.1, ..., 104.n bezeichnet wird, mit der sich der Messpunkt 104.1, ..., 104.n auf den FMCW-LiDAR-Sensor 92 zu oder vom FMCW-LiDAR-Sensor 92 weg bewegt.The
Die Messdaten werden von einer Steuer- und Auswerteeinheit (nicht gezeigt) ausgewertet, wobei die Steuer- und Auswerteeinheit dazu eingerichtet ist, die Messpunkte 104.1, ..., 104.n unter Verwendung der Radialgeschwindigkeiten vr n der Messpunkte 104.1, ..., 104.n und der polarisationsabhängigen Intensitäten I⊥n, I∥n, des von den Messpunkten 104.1, ..., 104.n reflektierten oder remittierten Sendelichts zu segmentieren und zu Objektsegmenten, in diesem Fall Fahrzeugteile 96.1, 96.2, 96.3, 98.1, 98.2, und/oder Objekten, in diesen Fall Fahrzeugen 96, 98 zusammen zu fassen.The measurement data are evaluated by a control and evaluation unit (not shown), the control and evaluation unit being set up to measure the measuring points 104.1, ..., 104.n using the radial velocities v r n of the measuring points 104.1, ... , 104.n and the polarization-dependent intensities I ⊥n , I ∥n , of the transmitted light reflected or remitted from the measuring points 104.1, ..., 104.n and into object segments, in this case vehicle parts 96.1, 96.2, 96.3, 98.1 , 98.2, and/or objects, in this
Bei mit gleicher Geschwindigkeit nebeneinander fahrenden Fahrzeugen 96, 98 wird sich die gemessene Radialgeschwindigkeit vr n der Messpunkte 104.1, ..., 104.n nicht oder nur unwesentlich unterscheiden. Durch die Verwendung der polarisationsabhängige Intensitäten I⊥n, I∥n des von den Messpunkten 104.1, ..., 104.n reflektierten oder remittierten Sendelichts lässt sich die Segmentierung der Messpunkten 104.1, ..., 104.n verbessern, da sich die polarisationsabhängigen Intensitäten I⊥n, I∥n aufgrund unterschiedlicher Oberflächenbeschaffenheit der Objektsegmente 96.1, 96.2, 96.3, 98.1, 98.2, und/oder Objekte 96, 96 in der Regel unterscheiden.For
Die Segmentierung 46 kann nach bekannten Verfahren der digitalen Bildverarbeitung beziehungswiese des maschinellen Sehens erfolgen, wie beispielsweise
- - Pixelorientierte Verfahren im Grauwertbild mittels Schwellenwert-Verfahren,
- - Kantenorientierte Verfahren wie dem Sobel- oder Laplace-Operator und einer Gradientensuche,
- - Regionenorientierte Verfahren wie „Region-Growing“, „Region-Splitting“, „Pyramid Linking“ oder „Split and Merge“,
- - Modellbasierte Verfahren wie bspw. die Hough-Transformation, oder
- - Texturorientierte Verfahren.
- - Pixel-oriented methods in the gray value image using threshold value methods,
- - Edge-oriented methods such as the Sobel or Laplace operator and a gradient search,
- - Region-oriented methods such as “region growing”, “region splitting”, “pyramid linking” or “split and merge”,
- - Model-based methods such as the Hough transformation, or
- - Texture-oriented methods.
Weiterhin sind unter dem Begriff „Range segmentation“ spezielle Verfahren zur Segmentierung von dreidimensionalen Datensätzen bekannt. Die „Range segmentation“ ist beispielsweise in den folgenden wissenschaftlichen Veröffentlichungen beschrieben:
- - „Fast Range Image-Based Segmentation of Sparse 3D Laser Scans for Online Operation“ (Bogoslavskyi et al., 2016 IEEE/RSJ International Conference on Intelligent Robots and Systems, DOI: 10.1109/IROS.2016.7759050)
- - „Laser-based segment classification using a mixture of bag-of-words“. (Behley et al., 2013 IEEE/RSJ International Conference on Intelligent Robots and Systems, DOI: 10.1109/IROS.2013.6696957)
- - „On the segmentation of 3d lidar point clouds“ (Douillard et al., 2011 IEEE International Conference on Robotics and Automation, DOI: 10.1109/ICRA.2011.5979818)
- - “Fast Range Image-Based Segmentation of Sparse 3D Laser Scans for Online Operation” (Bogoslavskyi et al., 2016 IEEE/RSJ International Conference on Intelligent Robots and Systems, DOI: 10.1109/IROS.2016.7759050)
- - “Laser-based segment classification using a mixture of bag-of-words”. (Behley et al., 2013 IEEE/RSJ International Conference on Intelligent Robots and Systems, DOI: 10.1109/IROS.2013.6696957)
- - “On the segmentation of 3d lidar point clouds” (Douillard et al., 2011 IEEE International Conference on Robotics and Automation, DOI: 10.1109/ICRA.2011.5979818)
Durch die Verwendung der Radialgeschwindigkeit vr n zusätzlich zum Radialabstand rn und der Intensität In der Messpunkte 20.1, ..., 20.n, 104.1, ..., 104.n kann die Segmentierung 46 der Messpunkte 20.1, ..., 20.n, 104.1, ..., 104.n mit den oben aufgeführten Verfahren effizienter und genauer erfolgen. Beispielsweise können Messpunkte 20.1, ..., 20.n, 104.1, ..., 104.n mit Radialgeschwindigkeiten vr n kleiner, größer oder gleich einem vorgegebenen Schwellenwert verworfen und keiner weiteren Auswertung zugeführt werden. Im Falle einer Antikollisionsfunktion können beispielsweise Messpunkte eines Objekts und/oder Objektsegments, die sich mit dem Sensor bewegen (vr = 0) oder sich vom Sensor entfernen (vr > 0), verworfen werden. Wird ein Objekt und/oder Objektsegment durch mehrere raumdiskrete Messpunkte abgetastet und sind die dazugehörigen Radialgeschwindigkeiten unterscheidbar, können statische und dynamische Objekte und/oder Objektsegmente unterschieden werden und so stationäre Objekte und/oder Objektsegmente wie Böden 30, Fahrbahn 100 oder Wände bereits vor beziehungsweise während der Segmentierung 46 der Messpunkte 20.1, ..., 20.n, 104.1, ..., 104.n verworfen und der Rechenaufwand durch Datenreduktion vermindert werden. Durch die Verwendung der polarisationsabhängigen Intensitäten I⊥n, I∥n des von den Messpunkten 20.1, ..., 20.n, 104.1, ..., 104.n reflektierten oder remittierten Sendelichts können die Messpunkte mit 20.1, ..., 20.n, 104.1, ..., 104.n auch dann genauersegmentiertwerden, wenn sie ähnliche oder gleiche Radialgeschwindigkeiten vr n aufweisen.By using the radial velocity v r n in addition to the radial distance r n and the intensity I n of the measuring points 20.1, ..., 20.n, 104.1, ..., 104.n, the
Im nächsten Schritt erfolgt eine Merkmalsextraktion 48 der während der Segmentierung 46 definierten Objekte 22, 24, 30, 96, 98 und/oder Objektsegmente 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2. Typische Merkmale, die bei der Verarbeitung der Messdaten aus den Objekten 22, 24, 30, 96 und/oder Objektsegmenten 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2 extrahiert werden können, sind beispielsweise Breite, Anzahl der Messpunkte oder Länge des Umfangs der Objekte und/oder Objektsegmente, oder weitere Merkmale, wie sie beispielsweise in der wissenschaftlichen Veröffentlichung „A Layered Approach to People Detection in 3D Range Data“ (Spinello et al., Proceedings of the Twenty-Fourth AAAI Conference on Artificial Intelligence, AAAI 2010) beschrieben sind. Erfindungsgemäß können diese Merkmale um Merkmale, die auf den Radialgeschwindigkeiten der Objekte 22, 24, 30, 96 und/oder der Objektsegmente 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2 basieren, erweitert werden. Dazu werden zunächst Radialgeschwindigkeiten der Objekte und/oder Objektsegmente bestimmt, beispielsweise durch Anwendung trigonometrischer Funktionen auf die Radialgeschwindigkeiten der das jeweilige Objekt und/oder Objektsegment repräsentierenden Messpunkte. Als zusätzliche Objekt- und/oder Objektsegmentmerkmale können dann beispielsweise statistische Maße der Radialgeschwindigkeiten der Objekte und/oder Objektsegmente wie Mittelwert, Standardabweichung, höhere Momente oder Histogramme, welche charakteristisch für eine Roboter- und/oder Personenbewegungen sind, verwendet werden.In the next step, a
Nach der Merkmalsextraktion 48 erfolgt eine Klassifizierung 50 der Objekte 22, 24, 96 und/oder Objektsegmente 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2 mit bekannten Klassifizierungsverfahren wie beispielsweise Bayes-Klassifikatoren, Support Vector Machines oder künstlichen neuronalen Netzen. Im Rahmen der Klassifizierung wird der Merkmalsraum nach Gruppen von Merkmalen durchsucht, die ein Objekt definieren. Hierbei können die oben aufgeführten statistischen Maße der Radialgeschwindigkeit einzelner Objekte 22, 24, 30, 96, 98, 100 und/oder Objektsegmente 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2 in Kombination mit a priori Informationen verwendet werden, um Merkmalsräume zu definieren, die beispielsweise Personen 22 oder Fahrzeuge 96 aufgrund ihrer Radialgeschwindigkeit klassifizieren und somit unterscheiden können.After the
In einem weiteren Schritt 52 erfolgt nun die Bestimmung eines Bewegungsmusters wenigstens eines der Objektsegmente 22.1, 22.2, 22.3, 24.1, 24.2, 24.3, 96.1, 96.2, 96.3, 98.1, 98.2 unter Verwendung der Radialgeschwindigkeiten der dem wenigstens einem Objektsegment zugeordneten Messpunkte 20.1, ..., 20.n, 104.1, ..., 104.n.In a
Das Ergebnis der Bestimmung des Bewegungsmusters 52 kann nach der Ausgabe 54 von der Steuer -und Auswerteeinheit 32 weiterverarbeitet werden, beispielsweise zur Erzeugung eines sicherheitsgerichteten Signals, zur Zustandserkennung eines Objektssegments oder über die Schnittstelle 36 an eine übergeordnete Steuerung (nicht gezeigt) weitergegeben werden.The result of the determination of the
Auf Basis der gemessenen Radialgeschwindigkeiten der den zuvor klassifizierten Segmenten 24.1, 24.2, 24.3 zugeordneten Messpunkte erfolgt eine Erkennung eines Bewegungsmusters 58. Im Gegensatz zur typischen Bestimmung eines „Rigid Scene Flow“ auf Basis von 3D Positionsdaten wie beispielsweise in
- • Dewan, Ayush, et al. „Rigid scene flow for 3d lidar scans.“ 2016 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2016. oder
- • Liu, Xingyu, Charles R. Qi, and Leonidas J. Guibas. „Flownet3d: Learning scene flow in 3d point clouds.“ Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2019.
- • Dewan, Ayush, et al. “Rigid scene flow for 3d lidar scans.” 2016 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE, 2016. or
- • Liu, Xingyu, Charles R. Qi, and Leonidas J. Guibas. “Flownet3d: Learning scene flow in 3d point clouds.” Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2019.
ZITATE ENTHALTEN IN DER BESCHREIBUNGQUOTES INCLUDED IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of documents listed by the applicant was generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- DE 102007007576 A1 [0003]DE 102007007576 A1 [0003]
- DE 19843602 A1 [0004]DE 19843602 A1 [0004]
- US 9804576 B2 [0005]US 9804576 B2 [0005]
- DE 102006048163 B4 [0006]DE 102006048163 B4 [0006]
- EP 4030188 A1 [0012]EP 4030188 A1 [0012]
Claims (10)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE202022104108.3U DE202022104108U1 (en) | 2022-07-20 | 2022-07-20 | Device for detecting objects in a surveillance area |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE202022104108.3U DE202022104108U1 (en) | 2022-07-20 | 2022-07-20 | Device for detecting objects in a surveillance area |
Publications (1)
Publication Number | Publication Date |
---|---|
DE202022104108U1 true DE202022104108U1 (en) | 2023-10-23 |
Family
ID=88697312
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE202022104108.3U Active DE202022104108U1 (en) | 2022-07-20 | 2022-07-20 | Device for detecting objects in a surveillance area |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE202022104108U1 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19843602A1 (en) | 1997-11-13 | 1999-05-20 | Werner Wolfrum | Processing unit movement detection for manufacturing process |
DE102007007576A1 (en) | 2007-02-15 | 2008-08-21 | Kuka Roboter Gmbh | Method and device for securing a working space |
DE102006048163B4 (en) | 2006-07-31 | 2013-06-06 | Pilz Gmbh & Co. Kg | Camera-based monitoring of moving machines and / or moving machine elements for collision prevention |
US9804576B2 (en) | 2013-02-27 | 2017-10-31 | Rockwell Automation Technologies, Inc. | Recognition-based industrial automation control with position and derivative decision reference |
EP4030188A1 (en) | 2021-01-15 | 2022-07-20 | Sick Ag | Device and method for securing a surveillance area |
-
2022
- 2022-07-20 DE DE202022104108.3U patent/DE202022104108U1/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE19843602A1 (en) | 1997-11-13 | 1999-05-20 | Werner Wolfrum | Processing unit movement detection for manufacturing process |
DE102006048163B4 (en) | 2006-07-31 | 2013-06-06 | Pilz Gmbh & Co. Kg | Camera-based monitoring of moving machines and / or moving machine elements for collision prevention |
DE102007007576A1 (en) | 2007-02-15 | 2008-08-21 | Kuka Roboter Gmbh | Method and device for securing a working space |
US9804576B2 (en) | 2013-02-27 | 2017-10-31 | Rockwell Automation Technologies, Inc. | Recognition-based industrial automation control with position and derivative decision reference |
EP4030188A1 (en) | 2021-01-15 | 2022-07-20 | Sick Ag | Device and method for securing a surveillance area |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP4030188B1 (en) | Device and method for securing a surveillance area | |
EP1788467B1 (en) | Safety device | |
EP3049823B1 (en) | Method for controlling a micro-mirror scanner, and micro-mirror scanner | |
DE102017217961A1 (en) | DEVICE FOR CONTROLLING A VEHICLE AT A CROSSROAD | |
EP1531343B1 (en) | Method for tracking objects | |
EP2289044B1 (en) | Image data visualization | |
DE102017102506B4 (en) | METHOD FOR DETECTING OTHER VEHICLES RELATIVE TO A CARRIER VEHICLE USING WHEEL DETECTION | |
DE10148071A1 (en) | Object detection and tracking procedures | |
EP1418444A1 (en) | Method for determining the yaw rate of a vehicle | |
DE102009034848A1 (en) | Optoelectronic sensor | |
EP1306690B1 (en) | Method for recognising and tracking objects | |
WO2019141415A1 (en) | Method and device for detecting critical transverse movements | |
EP3663881B1 (en) | Method for controlling an autonomous vehicle on the basis of estimated movement vectors | |
DE102017217844A1 (en) | Method and a machine learning system for classifying objects | |
EP0290633B1 (en) | Method for detecting changes in the driving range of an unmanned vehicle | |
EP4139709A1 (en) | Method and device for identifying blooming in a lidar measurement | |
DE102020105192B4 (en) | Method for detecting moving objects in a vehicle environment and motor vehicle | |
DE102009038406B4 (en) | Method and device for measuring the environment of a motor vehicle | |
DE202022104108U1 (en) | Device for detecting objects in a surveillance area | |
DE102017205245A1 (en) | Free range fusion for driver assistance systems | |
EP4310541A1 (en) | Device and method for detecting objects in a surveillance area | |
EP3885787B1 (en) | Detection of distance measurement data | |
DE3930109C1 (en) | ||
DE202022104107U1 (en) | Device for detecting objects | |
DE112015005343T5 (en) | OBJECT DETECTION DEVICE AND OBJECT DETECTION METHOD |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R207 | Utility model specification |