DE102017129663A1 - Sensor system with a light field camera for determining the characteristic of a scene - Google Patents
Sensor system with a light field camera for determining the characteristic of a scene Download PDFInfo
- Publication number
- DE102017129663A1 DE102017129663A1 DE102017129663.8A DE102017129663A DE102017129663A1 DE 102017129663 A1 DE102017129663 A1 DE 102017129663A1 DE 102017129663 A DE102017129663 A DE 102017129663A DE 102017129663 A1 DE102017129663 A1 DE 102017129663A1
- Authority
- DE
- Germany
- Prior art keywords
- sensor
- scene
- sensor system
- characteristic
- illumination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07C—TIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
- G07C11/00—Arrangements, systems or apparatus for checking, e.g. the occurrence of a condition, not provided for elsewhere
Abstract
Es wird beschrieben ein Sensorsystem (100) sowie ein Verfahren zum Bestimmen der Charakteristik einer Szene (190). Das Sensorsystem (100) weist auf ein auf dem Prinzip einer Lichtfeldkamera basierender Sensor (120) zum dreidimensionalen optischen Erfassen der Szene (190); und eine dem optischen Sensor nachgeschaltete Datenverarbeitungseinrichtung (140) zum Auswerten der optisch erfasste Szene (190). Die Datenverarbeitungseinrichtung (140) ist derart konfiguriert ist, dass von einem in der Szene (190) enthaltenen Objekt (195) in Echtzeit Bewegungsprofile bestimmbar sind. Ferner werden beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor für ein Steuern einer Bedeckungscharakteristik einer von einem Objekt (195) zu passierenden Öffnung (184) durch zumindest einen Verschließkörper (186) und/oder für ein Erfassen und/oder Steuern von Verkehrsströmen von Objekten (195).A sensor system (100) and a method for determining the characteristic of a scene (190) are described. The sensor system (100) has a sensor (120) based on the principle of a light field camera for the three-dimensional optical detection of the scene (190); and a data processing device (140) connected downstream of the optical sensor for evaluating the optically detected scene (190). The data processing device (140) is configured in such a way that motion profiles can be determined in real time by an object (195) contained in the scene (190). The invention also relates to a use of a sensor system with a sensor based on the principle of a light field camera for controlling a coverage characteristic of an opening (184) to be passed by an object (195) through at least one closing body (186) and / or for detecting and / or Controlling traffic flows of objects (195).
Description
Technisches GebietTechnical area
Die vorliegende Erfindung betrifft ein Sensorsystem sowie ein Verfahren zum dreidimensionalen Erfassen einer Szene. Ferner betrifft die vorliegende Erfindung mehrere Verwendungen eines solchen Sensorsystems.The present invention relates to a sensor system and a method for three-dimensional detection of a scene. Furthermore, the present invention relates to several uses of such a sensor system.
Hintergrund der ErfindungBackground of the invention
Zum Öffnen und/oder Verschließen von Öffnungen werden häufig mittels Aktuatoren betriebene Verschließkörper verwendet, welche für Bedienpersonen die Handhabung des betreffenden Verschließkörpers erleichtern oder ohne jede Bedienaktion vollautomatisch betrieben werden, wenn beispielsweise ein die Öffnung zu passierendes Objekt in der Bereich der Öffnung gelangt. Eine solche Öffnung kann beispielsweise ein Durchgang in einem Gebäude sein. Ein Verschließkörper kann beispielsweise eine Tür oder ein Tor sein.For opening and / or closing of openings operated by actuators closing body are often used, which facilitate the handling of the respective closure body for operators or operated fully automatically without any operation, for example, when an object to be passed the opening passes into the region of the opening. Such an opening may, for example, be a passageway in a building. A closure body may be, for example, a door or a gate.
Um eine hohe Betriebssicherheit von automatisch zu öffnenden und zu schließenden Verschließkörpern zu erreichen, ist es bekannt, den Bereich vor oder innerhalb einer mit einem Verschließkörper bedeckbaren Öffnung mittels eines optischen Sensorsystems zu erfassen. Damit kann zum einen sichergestellt werden, dass beim Verschießen der Öffnung nicht versehentlich ein Objekt, beispielsweise eine Person, von dem Verschließkörper eingeklemmt wird. In order to achieve a high level of operational reliability of automatically closing and closing closing bodies, it is known to detect the area in front of or within an opening which can be covered by a closing body by means of an optical sensor system. This can on the one hand be ensured that when shooting the opening accidentally an object, such as a person, is clamped by the closing body.
Außerdem kann bei manchen Applikationen ein solches Sensorsystem ein automatisches Öffnen des Verschließkörpers bzw. der Öffnung veranlassen. In diesem Zusammenhang ist es auch bekannt, dass ein solches Sensorsystem bzw. eine einem solchen Sensorsystem nachgeschaltete Datenverarbeitungseinrichtung mittels bekannter Methoden der Bildverarbeitung eine Objekterkennung durchführt und die Öffnung nur dann freigibt, wenn sich ein zum Passieren der Öffnungen befugtes Objekt dem Bereich der (noch verschlossenen Öffnung) nähert. Eine solche Objekterkennung kann beispielsweise eine Gesichtserkennung sein.In addition, in some applications such a sensor system may cause automatic opening of the closure body or opening. In this context, it is also known that such a sensor system or a data processing device connected downstream of such a sensor system performs object recognition by means of known methods of image processing and only releases the opening when an object authorized to pass through the openings is in the area of the (still closed Opening). Such an object recognition can be for example a face recognition.
Eine besonders hohe Betriebssicherheit kann durch die Verwendung von Sensorsystemen erreicht werden, welche eine dreidimensionale (3D) Überwachung des (Eingangs-)Bereichs einer mittels eines Verschließkörpers verschließbaren Öffnung vornehmen. So beschreibt zum Beispiel
Aus
Der vorliegenden Erfindung liegt die Aufgabe zugrunde eine aus energetischer Sicht effiziente und trotzdem zuverlässige Überwachung von Durchgängen zu ermöglichen, wobei unterschieden werden kann zwischen (a) Objekten, welche den betreffenden Durchgang passieren (dürfen) und (b) Objekten, welche entweder nicht im Begriff sind in den Bereich des Durchgangsbereich einzutreten und/oder den Durchgang nicht passieren dürfen.The present invention has for its object to enable an energetically efficient and yet reliable monitoring of passages, it being possible to distinguish between (a) objects which pass through the passage in question and (b) objects which are either not in the concept should enter the area of the passage area and / or not pass the passage.
Zusammenfassung der ErfindungSummary of the invention
Diese Aufgabe wird gelöst durch die Gegenstände der unabhängigen Patentansprüche. Vorteilhafte Ausführungsformen der vorliegenden Erfindung sind in den abhängigen Ansprüchen beschrieben.This object is solved by the subject matters of the independent claims. Advantageous embodiments of the present invention are described in the dependent claims.
Gemäß einem ersten Aspekt der Erfindung wird beschrieben ein Sensorsystem zum Bestimmen der Charakteristik einer Szene. Das beschriebene Sensorsystem weist auf (a) einen auf dem Prinzip einer Lichtfeldkamera basierenden Sensor zum dreidimensionalen optischen Erfassen der Szene; und (b) eine dem optischen Sensor nachgeschaltete Datenverarbeitungseinrichtung zum Auswerten der optisch erfasste Szene. Die Datenverarbeitungseinrichtung ist derart konfiguriert, dass von einem in der Szene enthaltenen Objekt in Echtzeit Bewegungsprofile bestimmbar sind.According to a first aspect of the invention, a sensor system for determining the characteristic of a scene is described. The described sensor system comprises (a) a sensor based on the principle of a light field camera for the three-dimensional optical detection of the scene; and (b) a data processing device connected downstream of the optical sensor for evaluating the optically detected scene. The data processing device is configured such that motion profiles can be determined in real time from an object contained in the scene.
Dem beschriebenen Sensorsystem liegt die Erkenntnis zugrunde, dass durch die Verwendung eines dreidimensionalen (3D) Sensorsystems, welches eine Lichtfeldkamera oder zumindest einen nach dem Prinzip einer Lichtfeldkamera arbeitenden Sensor aufweist, auf energetisch effiziente Weise bewegte Objekte erkannt und deren Bewegungsprofil in Echtzeit (mittels der dem optischen Sensor nachgeschalteten Datenverarbeitungseinrichtung) bestimmt werden können. Aus einer Kenntnis des Bewegungsprofils eines Objektes kann dann beispielsweise zuverlässig unterschieden werden, ob sich das Objekt in Richtung einer von einem Verschließkörper verschleißbaren Öffnung hinbewegt oder sich anderweitig in der von dem Sensor überwachten Szene bewegt. So kann beispielsweise bei einer automatischen Garagenöffnung verhindert werden, dass in einem Querverkehr, welcher den Eingangsbereich der Garagenöffnung passiert, Fahrzeuge fälschlicherweise als Objekte erkannt werden, welche in die betreffende Garage einfahren wollen.The sensor system described is based on the recognition that by the use of a three-dimensional (3D) sensor system, which has a light field camera or at least one working on the principle of a light field camera sensor, detected in an energetically efficient manner moving objects and their motion profile in real time (by means of the optical sensor downstream data processing device) can be determined. From a knowledge of the motion profile of an object can then be reliably distinguished, for example, whether the object in the direction of an opening wearable by a closure body or otherwise moved in the scene monitored by the sensor. For example, in an automatic garage opening can be prevented that in a cross traffic, which passes through the entrance area of the garage opening, vehicles are erroneously recognized as objects that want to enter the garage in question.
Außerdem kann beispielsweise erkannt werden, wenn ich ein Objekt, beispielsweise eine Person oder lediglich Gliedmaßen einer Person, in dem Verschlussbereich einer von einem Verschließkörper verschließbaren aber gerade geöffneten Öffnung befindet. Dann kann nämlich ein automatisches Verschießen der Öffnung (durch den Verschließkörper) verhindert und dadurch eine Verletzung der Person oder eine Aktivierung eines Notstopps verhindert werden. Ein Verschließkörper kann zu einem gegenständlichen Verschließen einer Öffnung verwendet werden und beispielsweise mittels einer Tür, einem Tor, einer Schranke, etc. realisiert sein. Ein Verschließkörper kann eine Öffnung oder eine Passage jedoch auch in nicht gegenständlicher Weise durch eine geeignete Signalisierung an „folgsame“ Objekte verschließen. Ein solcher Verschließkörper kann beispielsweise eine Ampel sein.In addition, it can be detected, for example, if I am an object, for example, a person or only limbs of a person, in the closure region of a closable by a closure but just opened opening. Then, namely, an automatic closing of the opening (by the closing body) can be prevented and thereby injury to the person or activation of an emergency stop can be prevented. A closing body can be used for a concrete closure of an opening and be realized for example by means of a door, a gate, a barrier, etc. However, a closing body can close off an opening or a passage in a non-representational manner by means of suitable signaling on "obedient" objects. Such a closing body can be, for example, a traffic light.
In diesem Dokument kann unter dem Begriff „Lichtfeldkamera“ eine sog. plenoptische Kamera verstanden werden, welche neben den üblichen zwei Bilddimensionen eine zusätzliche Dimension, nämlich die Richtung einfallender Lichtstrahlen, erfasst. Durch diese zusätzliche Dimension enthalten plenoptische Aufnahmen Informationen über die Bildtiefe. Ein besonderer Vorteil plenoptischer Kameras liegt in der theoretisch unendlichen Schärfentiefe und der Möglichkeit der Refokussierung, also der nachträglichen Verschiebung der Schärfeebene im Objektraum (Fokusvariation). Durch die zusätzliche Tiefeninformation wird bei dem beschriebenen Sensorsystem eine plenoptische Kamera als 3D-Kamera verwendet. Die Richtung der einfallenden Lichtstrahlen kann beispielsweise durch Blenden selektiert oder, energetisch deutlich effizienter, durch geeignete Linsensysteme vorgegeben sein. Falls es sich bei dem Lichtempfänger des Sensors um ein Sensorarray mit einer Vielzahl von (Halbleiter) Lichtempfängern handelt, dann kann mittels eines entsprechend angepassten Arrays aus Mikrolinsen vor dem Sensorarray auf die Richtung der einfallenden Lichtstrahlen geschlossen und daraus die Tiefeninformation abgeleitet werden. In diesem Dokument wird die Tiefeninformation als z-Information bezeichnet bzw. einer z-Richtung zugeordnet. Die beiden dazu senkrechten Richtungen (in der Bildebene eines zweidimensionalen Bildes) werden als x-Richtung bzw. als y-Richtung bezeichnet.In this document, the term "light field camera" can be understood as meaning a plenoptic camera which, in addition to the usual two image dimensions, detects an additional dimension, namely the direction of incident light rays. Due to this additional dimension, plenoptic images contain information about the image depth. A particular advantage of plenoptic cameras lies in the theoretically infinite depth of field and the possibility of refocusing, ie the subsequent shift of the focal plane in the object space (focus variation). Due to the additional depth information, a plenoptic camera is used as a 3D camera in the described sensor system. The direction of the incident light beams can be selected, for example, by diaphragms or, energetically much more efficiently, given by suitable lens systems. If the light receiver of the sensor is a sensor array with a multiplicity of (semiconductor) light receivers, then the direction of the incident light beams can be closed by means of a suitably adapted array of microlenses in front of the sensor array and the depth information derived therefrom. In this document, the depth information is referred to as z-information or assigned to a z-direction. The two perpendicular directions (in the image plane of a two-dimensional image) are called x-direction and y-direction, respectively.
Die Verwendung einer Lichtfeldkamera für das erfindungsgemäße 3D Sensorsystem hat im Gegensatz zu bekannten stereometrischen bzw. auf dem Prinzip der Triangulation beruhenden Sensoren, welche eine räumliche Mindestdistanz zwischen verschiedenen ausgewerteten Strahlengängen haben müssen, den Vorteil, dass das Sensorsystem in einer kompakten Bauweise realisiert werden kann. Damit ergeben sich für das erfindungsgemäße Sensorsystem eine Vielzahl von Anwendungsmöglichkeiten, welche nicht lediglich auf eine Überwachung von Eingangsbereichen beschränkt sind. Ein weiterer Vorteil, welcher sich aus der Verwendung einer Lichtfeldkamera ergibt, besteht darin, dass das erfindungsgemäße Sensorsystem vergleichsweise unempfindlich gegenüber Fremdlicht ist. Dies liegt daran, dass durch die Lichtfeldkamera eine Richtungsselektion der für die dreidimensionale Erfassung der Szene verwendeten Lichtstrahlen verwendet wird.The use of a light field camera for the 3D sensor system according to the invention, in contrast to known stereometric or based on the principle of triangulation sensors, which must have a minimum spatial distance between different evaluated beam paths, the advantage that the sensor system can be implemented in a compact design. This results in a variety of applications for the sensor system according to the invention, which are not limited to a monitoring of input areas. A further advantage which results from the use of a light field camera is that the sensor system according to the invention is comparatively insensitive to extraneous light. This is because the directional selection of the light beams used for the three-dimensional detection of the scene is used by the light field camera.
Insbesondere gegenüber einer 3D Objekterfassung basierend auf einer vordefiniert strukturierten Beleuchtung, welche durch eine 3D Oberflächenkontur eines zu erfassenden Objekts räumlich verzerrt wird, kann das erfindungsgemäße Sensorsystem zumindest bei guten Lichtverhältnissen ohne eine zusätzliche Beleuchtung auskommen. Selbstverständlich kann das beschriebene Sensorsystem jedoch auch eine geeignete Beleuchtungsvorrichtung aufweisen, sodass auch bei schlechten Lichtverhältnissen eine dreidimensionale Erfassung der Szene möglich ist. Dabei kann jedoch bei guten Lichtverhältnissen auf eine Aktivierung der Beleuchtung verzichtet werden, so dass die Beleuchtungsvorrichtung lediglich dann mit (elektrischer) Energie versorgt werden muss, wenn das Sensorsystem bei schlechten Lichtverhältnissen betrieben wird.In particular, compared to a 3D object detection based on a predefined structured illumination, which is spatially distorted by a 3D surface contour of an object to be detected, the sensor system according to the invention can get along without additional illumination, at least in good light conditions. Of course, however, the sensor system described may also have a suitable lighting device, so that a three-dimensional detection of the scene is possible even in low light conditions. In this case, however, can be dispensed with activation of the lighting in good lighting conditions, so that the lighting device only has to be supplied with (electrical) energy when the sensor system is operated in low light conditions.
Unter dem Begriff „Szene“ kann insbesondere derjenige räumliche Bereich verstanden werden, welcher von dem Sensorsystem optisch erfasst wird. In der Szene befindliche Objekte werden durch eine geeignete Bildauswertung erkannt. Dazu kann auf bekannte Methoden zur Bildauswertung und/oder Bildanalyse zurückgegriffen werden.The term "scene" may in particular be understood to mean that spatial area which is optically detected by the sensor system. Objects in the scene are recognized by a suitable image analysis. For this purpose, known methods for image analysis and / or image analysis can be used.
Unter dem Begriff „Charakteristik einer Szene“ kann die Gesamtheit aller räumlichen Strukturen verstanden werden, welche von dem Sensor erfasst werden. Dabei können von der Datenverarbeitungseinrichtung mittels einer Bildverarbeitung und/oder Bilderkennung manche Strukturen als relevant und andere Strukturen als weniger oder sogar irrelevant erkannt werden.The term "characteristic of a scene" can be understood as the entirety of all spatial structures which are detected by the sensor. In this case, some structures can be recognized as being relevant and other structures as being less or even irrelevant by the data processing device by means of image processing and / or image recognition.
Unter dem Begriff „Bewegungsprofil“ können alle Bewegungsdaten verstanden werden, welche eine Veränderlichkeit des Objekts entlang zumindest einer Raumkoordinate beschreiben. Die Bewegungsdaten können einfach den Betrag der Geschwindigkeit und/oder den Betrag der Beschleunigung des Objekts beschreiben. Alternativ oder in Kombination können die Bewegungsdaten auch die entsprechende Richtung und insbesondere den Vektor der Größen Geschwindigkeit und/oder Beschleunigung beschreiben.The term "motion profile" can be understood to mean all motion data which describe a variability of the object along at least one spatial coordinate. The transaction data can easily change the amount of Describe speed and / or the amount of acceleration of the object. Alternatively or in combination, the movement data can also describe the corresponding direction and in particular the vector of the variables speed and / or acceleration.
Anders ausgedrückt können die Bewegungsdaten alle Ortsänderungen des Objekts beschreiben. Dies kann für alle Objektbewegungen mit einer Geschwindigkeit ungleich Null und/oder einer Geschwindigkeit gleich Null gelten.In other words, the movement data can describe all the location changes of the object. This can apply to all object movements with a nonzero speed and / or zero speed.
Da mit dem beschriebenen Sensorsystem Bewegungsdaten ermittelt werden, wird eine Szene bevorzugt zumindest zweimal mit einem bestimmten zeitlichen Abstand erfasst. Aus der Veränderung der räumlichen Position eines erkannten Objekts kann durch die Beziehung „Geschwindigkeit = Weg pro Zeit“ die Geschwindigkeit des Objekts ermittelt werden. Aufgrund der „Dreidimensionalität“ der Szenenerfassung kann auch die Bewegungsrichtung bzw. der Bewegungsvektor im Raum ermittelt werden. Es wird darauf hingewiesen, dass eine Bewegung im Falle einer im Vergleich zu der Geschwindigkeit langen Belichtungsdauer auch anhand der Bewegungsunschärfe des Objekts ermittelt werden könnte.Since motion data is determined with the described sensor system, a scene is preferably detected at least twice with a specific time interval. From the change in the spatial position of a detected object, the velocity of the object can be determined by the relationship "speed = distance per time". Due to the "three-dimensionality" of the scene detection, the direction of motion or the motion vector in space can also be determined. It should be noted that a movement in the case of a long compared to the speed exposure time could also be determined based on the motion blur of the object.
Die Begriffe „optisch“ und/oder „Licht“ können sich auf elektromagnetische Wellen beziehen, die eine bestimmte Wellenlänge bzw. Frequenz oder ein bestimmtes Spektrum von Wellenlängen bzw. Frequenzen haben. Insbesondere können die zum Einsatz kommenden elektromagnetischen Wellen dem für das menschliche Auge sichtbaren Spektralbereich zugeordnet werden. Alternativ oder in Kombination können auch elektromagnetische Wellen verwendet werden, die dem ultravioletten (UV) oder dem infraroten (IR) Spektralbereich zugeordnet sind. Der IR Spektralbereich kann sich bis in den langwelligen IR Bereich mit Wellenlängen zwischen 3,5 µm bis 15 µm erstrecken, welche mittels einer plenoptischen Wärmebildkamera erfasst werden können.The terms "optical" and / or "light" may refer to electromagnetic waves having a particular wavelength or frequency or a particular spectrum of wavelengths or frequencies. In particular, the electromagnetic waves used can be assigned to the spectral range visible to the human eye. Alternatively or in combination, electromagnetic waves associated with the ultraviolet (UV) or infrared (IR) spectral regions may also be used. The IR spectral range can extend into the long-wave IR range with wavelengths between 3.5 μm to 15 μm, which can be detected by means of a plenoptic thermal imaging camera.
Gemäß einem Ausführungsbeispiel der Erfindung weist das Sensorsystem ferner eine Halterung auf, welche mit dem Sensor mechanisch gekoppelt ist, wobei die Halterung derart ausgebildet ist, dass das Sensorsystem an einer in Bezug auf die zu erfassende Szene stationären Haltestruktur anbringbar ist.According to one exemplary embodiment of the invention, the sensor system further has a holder which is mechanically coupled to the sensor, wherein the holder is designed such that the sensor system can be attached to a stationary holding structure with respect to the scene to be detected.
Anschaulich ausgedrückt sorgt die Halterung dafür, dass das beschriebene Sensorsystem ein stationäres System sein kann, welches einen bestimmten räumlich festen Erfassungsbereich hat und damit immer die gleiche Szene überwacht. Durch einen Vergleich von verschiedenen zeitlich voneinander beabstandeten Erfassungen der von der Orientierung des Sensorsystems abhängigen Szene können im Rahmen einer Bildauswertung räumlich stationäre Objekte, die in der Szene vorhanden sind, erkannt und bei einer weiteren Bildauswertung in Hinblick auf Bewegungsprofile ausgeblendet werden. Dadurch kann Rechenleistung eingespart werden und die energetische Effizienz des beschriebenen Sensorsystems verbessert werden.In terms of clarity, the holder ensures that the described sensor system can be a stationary system which has a certain spatially fixed detection range and thus always monitors the same scene. By comparing different temporally spaced detections of the dependent of the orientation of the sensor system scene spatially stationary objects that are present in the scene can be detected in an image analysis and hidden in a further image analysis with respect to movement profiles. As a result, computing power can be saved and the energy efficiency of the described sensor system can be improved.
Die stationäre Haltestruktur kann direkt oder indirekt mechanisch gekoppelt sein mit einer Vorrichtung zum Steuern einer Bedeckungscharakteristik einer von dem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper. Bevorzugt weist diese Vorrichtung neben einer geeigneten Führung bzw. Lagerung des Verschließkörpers einen Aktuator zum Bewegen des Verschließkörpers auf, insbesondere zum Bewegen des Verschließkörpers zwischen einer geschlossenen Position und einer geöffneten Position (und umgekehrt) auf.The stationary support structure may be directly or indirectly mechanically coupled to a device for controlling a coverage characteristic of an opening to be passed through the object by at least one closure body. In addition to a suitable guidance or mounting of the closing body, this device preferably has an actuator for moving the closing body, in particular for moving the closing body between a closed position and an open position (and vice versa).
Im Bereich der Gebäudesicherheit kann die Öffnung ein Eingang, beispielsweise für eine Person oder ein Fahrzeug sein, der Verschließkörper kann eine Tür, beispielsweise eine Haustür bzw. ein Garagentor sein. Die stationäre Haltestruktur kann beispielsweise die stationäre Rahmenstruktur eines Eingangs sein, beispielsweise der Rahmen einer Tür.In the field of building security, the opening may be an entrance, for example for a person or a vehicle, the closure body may be a door, for example a front door or a garage door. The stationary support structure may be, for example, the stationary frame structure of an entrance, for example the frame of a door.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Datenverarbeitungseinrichtung ferner derart konfiguriert, dass eine Bedeckungscharakteristik einer von dem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper steuerbar ist. Dadurch kann die Öffnung, welche beispielsweise ein Eingang (bzw. ein Ausgang) eines Gebäudes ist, auf energetisch günstige Weise automatisch überwacht werden und durch eine geeignete Ansteuerung eines Aktuators kann der Verschließkörper auf die gewünschte Weise zwischen einer geöffneten Position und einer geschlossenen Position bewegt werden. Dazu kann die Datenverarbeitungseinrichtung des beschriebenen Sensorsystems mit der Steuerung eines bekannten Steuersystems für einen Verschließkörper gekoppelt werden.According to a further embodiment of the invention, the data processing device is further configured such that a coverage characteristic of an opening to be passed from the object is controllable by at least one closure body. Thereby, the opening, which is for example an entrance (or an exit) of a building, can be automatically monitored in an energetically favorable manner and by a suitable actuation of an actuator, the closing body can be moved in the desired manner between an open position and a closed position , For this purpose, the data processing device of the described sensor system can be coupled with the control of a known control system for a closing body.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor einen Lichtdetektor mit einer Mehrzahl von Pixeln auf. Ferner ist der Sensor konfiguriert, die Szene basierend auf zumindest einem der folgenden Merkmale von detektierter optischer Strahlung zu erfassen: (a) Intensität, welche auf zumindest einem Pixel auftrifft, (b) Intensitätsunterschiede zwischen verschiedenen Pixeln, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, und (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen. Durch eine anwendungsspezifische Verwendung von einem dieser Merkmale oder durch eine geeignete Kombination von zumindest zwei dieser Merkmale können die zu erkennenden Objekte mit besonders hoher Genauigkeit und Zuverlässigkeit erkannt werden.According to a further exemplary embodiment of the invention, the sensor has a light detector with a plurality of pixels. Further, the sensor is configured to detect the scene based on at least one of the following characteristics of detected optical radiation: (a) intensity incident on at least one pixel, (b) intensity differences between different pixels, (c) wavelength, (d) spectral intensity distribution, (e) polarization direction, and (f) intensity distribution for different polarization directions. By an application-specific use of one of these features or by a suitable combination of at least two of these features, the objects to be recognized can be detected with particularly high accuracy and reliability.
Die Intensität der optischen Strahlung, welche von einem Pixel empfangen bzw. detektiert wird, spiegelt sich üblicherweise in Form von Grauwerten wieder, welche an die Datenverarbeitungseinrichtung weitergeleitet und dort zu einem vollständigen Bild der erfassten Szene zusammengesetzt werden. Dort kann auch ein Vergleich der Grauwerte zwischen verschiedenen Pixeln stattfinden, welche unterschiedlichen räumlichen Teilbereichen der Szene zugeordnet sind. Die Wellenlänge, Frequenz bzw. Farbe der detektieren optischen Strahlung kann mittels geeigneter Filter ermittelt werden. Dabei kann jeweils ein Filter bzw. ein Filterelement einem Pixel eines Sensorarrays bzw. des Lichtempfängers des Sensors zugeordnet sein. Spektrale Intensitätsverteilungen könne durch eine geeignete Kombination von solchen Filtern ermittelt werden. Dabei sind auch kontinuierlich veränderbare Filter möglich. Die Polarisationsrichtung der detektierten optischen Strahlung kann auf bekannte Weise durch die Verwendung von Polarisationsfiltern ermittelt bzw. die entsprechende Polarisationskomponente der optischen Strahlung herausgefiltert werden. The intensity of the optical radiation which is received or detected by a pixel is usually reflected in the form of gray values, which are forwarded to the data processing device and combined there to form a complete image of the detected scene. There can also take place a comparison of the gray values between different pixels, which are assigned to different spatial subregions of the scene. The wavelength, frequency or color of the detected optical radiation can be determined by means of suitable filters. In each case, a filter or a filter element can be assigned to a pixel of a sensor array or the light receiver of the sensor. Spectral intensity distributions can be determined by a suitable combination of such filters. In this case, continuously variable filters are possible. The polarization direction of the detected optical radiation can be determined in a known manner by the use of polarization filters or the corresponding polarization component of the optical radiation can be filtered out.
Intensitätsunterschiede und auch unterschiedliche Farben auf verschiedenen Pixeln stellen einen Kontrast dar, welcher in bekannter Weise für eine Auswertung der erfassten Szene und insbesondere für eine Objekterkennung von großen Vorteil sein kann.Differences in intensity and also different colors on different pixels represent a contrast, which in a known manner can be of great advantage for an evaluation of the detected scene and in particular for object recognition.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor eine räumliche Auflösung auf, die in unterschiedlichen Teilbereichen einer lichtsensitiven Oberfläche des Sensors unterschiedlich ist.According to a further exemplary embodiment of the invention, the sensor has a spatial resolution that is different in different partial regions of a light-sensitive surface of the sensor.
Eine räumlich inhomogene räumliche Auflösung kann zu einer weiteren energetischen Optimierung des beschriebenen Sensorsystems führen, weil sowohl der Betrieb des Sensors (einschließlich der Auslesung von erfassten Sensordaten) als auch eine mittels der Datenverarbeitungseinrichtung durchgeführte Bildauswertung bei einer geringen Auflösung weniger Energie benötigt. Selbstverständlich sollten die Teilbereiche mit einer höheren Auflösung bevorzugt denjenigen Ausschnitten der Szene zugeordnet sein, in denen sich das Objekt befindet oder in denen das Objekt mit einer erhöhten Wahrscheinlichkeit vermutet wird. Anschaulich ausgedrückt „schaut“ der als Lichtfeldkamera ausgebildete Sensor dort „genauer“ hin, wo das Objekt vermutet wird. Im Falle einer Verschlusssteuerung eines verschließbaren Durchgangs kann innerhalb einer sog. Absicherungszone die Szene mit einer höheren Auflösung erfasst werden als in anderen Zonen bzw. Ausschnitten der Szene.A spatially inhomogeneous spatial resolution can lead to a further energetic optimization of the sensor system described, because both the operation of the sensor (including the reading of detected sensor data) and an image analysis performed by the data processing device requires less energy at a low resolution. Of course, the subareas with a higher resolution should preferably be assigned to those sections of the scene in which the object is located or in which the object is suspected with an increased probability. Expressed clearly, the sensor designed as a light field camera "looks" more precisely where the object is suspected. In the case of a closure control of a closable passage, the scene can be detected with a higher resolution within a so-called security zone than in other zones or sections of the scene.
Eine unterschiedliche räumliche Auflösung des Sensors bzw. seiner in Pixel aufgeteilten lichtsensitiven Oberfläche kann statisch bzw. fest vorgegeben sein. Dazu kann der Sensor aus zwei unterschiedlichen einzelnen Sensorchips mit einer zueinander unterschiedlichen Auflösung bestehen. Eine unterschiedliche Auflösung kann beispielsweise durch ein sogenanntes Binning bzw. Zusammenfassen von voneinander unmittelbar benachbarten Pixeln der lichtsensitiven Oberfläche des Sensors erfolgen.A different spatial resolution of the sensor or its pixel-sensitive light-sensitive surface may be static or fixed. For this purpose, the sensor may consist of two different individual sensor chips with a mutually different resolution. A different resolution can for example be done by a so-called binning or summarizing mutually immediately adjacent pixels of the light-sensitive surface of the sensor.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die räumliche Auflösung des Sensors dynamisch an unterschiedliche Charakteristiken der Szene anpassbar. Dies hat den Vorteil, ein mit einer hohen Auflösung erfasster Bereich nicht immer der gleiche Ausschnitt der Szene sein muss. Insbesondere kann (bei einer nicht allzu schnellen Bewegung des Objekts) der mit einer hohen Auflösung erfasste Ausschnitt der Szene zusammen mit der Bewegung des Objekts „durch die Szene wandern“, so dass das Objekt, welches typischerweise für die Charakteristik der Szene am meisten relevant ist, stets mit der hohen Auflösung und damit besonders genau erfasst wird.According to a further embodiment of the invention, the spatial resolution of the sensor is dynamically adaptable to different characteristics of the scene. This has the advantage that a region captured with a high resolution does not always have to be the same section of the scene. In particular (with not too fast movement of the object) the high-resolution captured portion of the scene can "move through the scene" along with the movement of the object, so that the object which is typically most relevant to the scene's characteristic , always with the high resolution and thus very accurately recorded.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Auflösung des Sensors durch ein Zusammenfassen von benachbarten Pixeln der lichtsensitiven Oberfläche des Sensors anpassbar. Ein solches Zusammenfassen von Pixeln, welches auch als „Binning“ bezeichnet wird, hat den Vorteil, dass es unkompliziert und zudem schnell bzw. dynamisch durchgeführt werden kann. Ein lokales „Binning“ kann zumindest bei einigen bekannten Sensoren ohne besondere elektronische oder apparative Elemente einfach durch eine entsprechende Ansteuerung des Sensors erfolgen, welche Ansteuerung das „Binning“ und damit den Betriebsmodus des Sensors bestimmt.According to another embodiment of the invention, the resolution of the sensor is adaptable by combining adjacent pixels of the light-sensitive surface of the sensor. Such a pooling of pixels, which is also referred to as "binning", has the advantage that it can be carried out uncomplicated and also fast or dynamic. A local "binning" can be done at least in some known sensors without special electronic or apparatus elements simply by a corresponding control of the sensor, which control determines the "binning" and thus the operating mode of the sensor.
Ein weiterer Vorteil des beschriebenen Zusammenfassens von benachbarten Pixeln kann darin gesehen werden, dass bei zwei zusammengefassten Pixeln im Vergleich zu der Energiemenge bzw. der Anzahl an Photonen, welche bei einer vollen Auflösung einem Pixel zugeordnet ist, nun die doppelte Energiemenge bzw. doppelte Anzahl an Photonen für die beiden zusammengefassten Pixel zur Verfügung steht. Damit wird die Lichtsensitivität des beschriebenen Sensorsystems signifikant erhöht und ein unerwünschtes jedoch niemals ganz zu eliminierendes Rauschen wird reduziert, so dass es viele Anwendungen gibt, für die keine eigene Beleuchtung erforderlich ist, weil das zur Verfügung stehende Fremdlicht für ein optisches Erfassen der Szene durch den in seiner Auflösung reduzierten Sensor ausreichend ist.Another advantage of the described summarization of neighboring pixels can be seen in the fact that with two combined pixels compared to the amount of energy or the number of photons, which is assigned to a pixel at a full resolution, twice the amount of energy or double the number Photons for the two combined pixels is available. Thus, the light sensitivity of the described sensor system is significantly increased and unwanted, but never completely eliminate noise is reduced, so that there are many applications that do not require their own lighting, because the available extraneous light for optically detecting the scene by the in its resolution reduced sensor is sufficient.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor eine räumliche Auflösung auf, die entlang unterschiedlicher Koordinatenrichtungen unterschiedlich ist. Diese Ausführungsform hat den Vorteil, dass unterschiedliche Richtungen der Bewegung des Objekts mit unterschiedlicher Genauigkeit erfasst werden. Dies bedeutet, dass das Bewegungsprofil des Objekts entlang unterschiedlicher Richtungen mit einer unterschiedlichen Genauigkeit bestimmt wird. Auch hier hat eine Reduzierung der Genauigkeit den Vorteil, dass sowohl bei dem optischen Erfassen der Szene als auch bei einem nachfolgenden Auswerten Energie zum Betreiben des Sensorsystems eingespart wird.According to a further embodiment of the invention, the sensor has a spatial resolution along different Coordinate directions is different. This embodiment has the advantage that different directions of movement of the object are detected with different accuracy. This means that the motion profile of the object along different directions is determined with a different accuracy. Again, a reduction in accuracy has the advantage that energy is saved for operating the sensor system both in the optical detection of the scene and in a subsequent evaluation.
Falls eine Bewegungsrichtung des Objekts vorgegeben ist oder sich das Objekt mit einer höheren Wahrscheinlichkeit entlang einer bestimmten Richtungskoordinate bewegt, dann kann die Koordinatenrichtung mit der höheren räumlichen Auflösung mit der (zu erwartenden) Bewegungsrichtung zumindest annähernd übereinstimmen. In anderen Fällen kann die Koordinatenrichtung mit der höheren räumlichen Auflösung auch senkrecht zu der (zu erwartenden) Bewegungsrichtung orientiert sein, wenn weniger die Geschwindigkeit des Objekts bzw. die Position des Objekts entlang der entsprechenden vorgegebenen Trajektorie genau bestimmt werden soll sondern insbesondere eventuelle „Wegabweichungen“ von dieser Trajektorie zuverlässig erkannt werden sollen bzw. müssen.If a direction of movement of the object is predetermined or the object moves with a higher probability along a certain direction coordinate, then the coordinate direction with the higher spatial resolution can at least approximately coincide with the (expected) direction of movement. In other cases, the coordinate direction with the higher spatial resolution can also be oriented perpendicular to the (expected) direction of movement, if less the speed of the object or the position of the object along the corresponding predetermined trajectory is to be determined exactly, and in particular any "path deviations" should be reliably detected by this trajectory.
Eine entlang unterschiedlicher Koordinatenrichtungen von dem als Lichtfeldkamera ausgebildeten Sensor kann auf besonders vorteilhafte Weise auch zur Absicherung einer Steuerung für einen Verschließkörper eingesetzt werden. Weil z.B. bei einer eine Türöffnung verschießenden Schiebetüre das größte Risiko eines Einquetschens dann besteht, wenn sich eine Person oder ein Teil einer Person senkrecht zur Verschieberichtung in den Bereich der Schiebetüre bewegt, kann entlang dieser Richtung eine höhere Auflösung für die Objekterkennung verwendet werden. So kann z.B. ein ausgestreckter Finger (gegenüber einem symmetrischen Körper) bevorzugt erkannt werden, der in den Bewegungsbereich der Schließkante der Schiebetüre gesteckt wird. Dabei wird dem Umstand Rechnung getragen, dass besonders geformte (nicht symmetrische) Objekte durch eine asymmetrische Auflösung von dem Sensorsystem besser erkannt werden können. So reicht z.B. ein hoch aufgelöster quasi eindimensionaler Erfassungsbereich („Schutzlinie“) in unmittelbarer Nähe zum Bewegungsbereich des Verschließkörpers aus, um eine unerwünschte Durchdringung durch ein Objekt zu erkennen. Vor (und hinter) dieser Schutzlinie kann mit einer tieferen Auflösung gearbeitet werden, ohne dass eine Einbuße an Betriebssicherheit hingenommen werden müsste.A along different coordinate directions of the trained as a light field camera sensor can be used in a particularly advantageous manner to secure a control for a closing body. Because e.g. In the case of a sliding door which sheds a door opening, the greatest risk of being pinched is when a person or a part of a person moves perpendicularly to the sliding direction in the area of the sliding door, a higher resolution can be used along this direction for the object recognition. Thus, e.g. an outstretched finger (with respect to a symmetrical body) are preferably recognized, which is inserted into the range of movement of the closing edge of the sliding door. This takes into account the fact that particularly shaped (not symmetrical) objects can be better recognized by the sensor system by an asymmetrical resolution. For example, a high-resolution quasi one-dimensional detection area ("protection line") in the immediate vicinity of the movement range of the closure body to detect an unwanted penetration through an object. Before (and behind) this protection line can be worked with a lower resolution, without a loss of operational reliability would have to be accepted.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor auf (a) einen ersten Sensorbereich für zumindest ein erstes charakteristisches Merkmal von detektierter optischer Strahlung und (b) einen zweiten Sensorbereich für zumindest ein zweites charakteristisches Merkmal von detektierter optischer Strahlung, wobei das zweite charakteristische Merkmal unterschiedlich ist zu dem ersten charakteristischen Merkmal.According to a further exemplary embodiment of the invention, the sensor has (a) a first sensor region for at least one first characteristic of detected optical radiation and (b) a second sensor region for at least one second characteristic of detected optical radiation, the second characteristic being different is the first characteristic feature.
Die charakteristischen Merkmale können auch im Falle von zwei (räumlich getrennten) Sensorbereichen die vorstehend erwähnten Merkmale (a) Intensität auf zumindest einem Pixel des betreffenden Bereiches, (b) Intensitätsunterschiede zwischen zumindest zwei verschiedenen Pixeln, die bevorzugt unterschiedlichen Sensorbereichen zugeordnet sind, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen, etc. sein.In the case of two (spatially separated) sensor regions, the characteristic features may also include the above-mentioned features: (a) intensity on at least one pixel of the relevant region, (b) intensity differences between at least two different pixels, which are preferably assigned to different sensor regions, (c) Wavelength, (d) spectral intensity distribution, (e) polarization direction, (f) intensity distribution for different polarization directions, etc.
Die beschriebene Ausführungsform mit unterschiedlichen Sensorbereichen kann den Vorteil haben, dass unterschiedliche charakteristische Merkmale der detektierten optischen Strahlung, welche Merkmale, wie vorstehend beschrieben, zu einer energetisch günstigen und/oder besonders genauen und damit insbesondere zu einer zuverlässigen Auswertung der erfassten Szene verwendet werden können, gleichzeitig erfasst bzw. gemessen werden können. Dabei kann jeder Sensorbereich konfiguriert sein, gerade das ihm zugeordnete charakteristische Merkmal besonders genau und zuverlässig und zudem mit einer hohen Effizienz zu detektieren. Eine hohe Effizienz bei der Detektion hat wiederum den Vorteil, dass auch vergleichsweise dunkle Szenen ohne ein (besonders starkes) Beleuchtungslicht ausgewertet können.The embodiment described with different sensor regions may have the advantage that different characteristic features of the detected optical radiation, which features, as described above, can be used for an energetically favorable and / or particularly accurate and thus in particular for a reliable evaluation of the detected scene, can be recorded or measured simultaneously. In this case, each sensor region can be configured to detect its characteristic feature in a particularly accurate and reliable manner and also with a high degree of efficiency. A high efficiency in the detection in turn has the advantage that even comparatively dark scenes can be evaluated without a (particularly strong) illumination light.
Es wird darauf hingewiesen, dass ein Sensor mit zwei Sensorbereichen auch ersetzt werden kann durch oder zwei getrennte Sensoren, die funktional im Sinne der hier beschriebenen Ausführungsform als ein (gemeinsamer) Sensor beschrieben sind bzw. betrachtet werden.It should be noted that a sensor with two sensor areas can also be replaced by or two separate sensors, which are functionally described in the sense of the embodiment described here as a (common) sensor.
Es wird ferner darauf hingewiesen, dass der Sensor auch mehr als zwei, beispielsweise drei oder vier oder sogar noch mehr verschiedene Sensorbereiche haben kann, die jeweils einem charakteristisches Merkmal von detektierter optischer Strahlung zugeordnet sein können. Dadurch können noch mehr spezifische optische Informationen über die erfasste Szene bzw. das darin befindliche Objekt ermittelt und für eine nachfolgende Auswertung mittels der Datenverarbeitungsanlage verwendet werden.It is further pointed out that the sensor can also have more than two, for example three or four or even more different sensor regions, each of which can be assigned to a characteristic feature of detected optical radiation. As a result, even more specific optical information about the detected scene or the object located therein can be determined and used for a subsequent evaluation by means of the data processing system.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist das erste charakteristische Merkmal eine erste spektrale Verteilung und das zweite charakteristische Merkmal ist eine zweite spektrale Verteilung, wobei die zweite spektrale Verteilung unterschiedlich ist zu der ersten spektralen Verteilung. Da unterschiedliche spektrale Verteilungen unterschiedliche optische Eigenschaften der Szene bzw. des darin befindlichen Objekts unterschiedlich genau und/oder unterschiedlich detailliert darstellen, kann durch die Verwendung von unterschiedlichen spektrale Verteilungen die Szene bzw. das darin befindliche Objekt besonders umfassend erfasst und mittels der Datenverarbeitungseinrichtung besonders genau ausgewertet werden.According to a further exemplary embodiment of the invention, the first characteristic feature is a first spectral distribution and the second characteristic feature is a second spectral distribution, the second spectral distribution being different from the first spectral distribution Distribution. Since different spectral distributions represent different optical properties of the scene or the object located therein with different accuracy and / or different detail, the scene or the object located therein can be detected in a particularly comprehensive manner by the use of different spectral distributions and evaluated particularly accurately by means of the data processing device become.
Die erste spektrale Verteilung kann eine erste Wellenlänge bzw. ein erster Welllängenbereich, beispielsweise sichtbares Licht sein, wohingegen die zweite spektrale Verteilung eine zweite unterschiedliche Wellenlänge bzw. ein zweiter unterschiedlicher Welllängenbereich, beispielsweise infrarotes (
In einer weiteren bevorzugten Ausführungsform werden pro Pixel des Sensors sowohl sensitive Zonen für sichtbares Licht als auch sensitive Zonen für IR-Strahlung integriert. Dies kann nicht nur bei besonderen Reflexionseigenschaften von Objekten in der Szene von Vorteil sein, auch bei Fremdenergieeinstrahlungen beispielsweise durch einen Heizstrahler, einen Scheinwerfer, der Sonne, etc. kann entsprechendes Fremdlicht besonders gut von „gewünschter“ die Szene charakterisierender Strahlung diskriminiert werden.In a further preferred embodiment, both sensitive zones for visible light and sensitive zones for IR radiation are integrated per pixel of the sensor. This can not only be advantageous in the case of special reflection properties of objects in the scene, even with extraneous energy radiations, for example due to a radiant heater, a floodlight, the sun, etc., corresponding external light can be particularly well discriminated against by "desired" radiation characterizing the scene.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Sensorsystem ferner auf eine Beleuchtungseinrichtung zum Beleuchten der Szene mit einem Beleuchtungslicht, welches eine vorbestimmte Beleuchtungscharakteristik aufweist. Dies hat den Vorteil, dass das beschriebene Sensorsystem auch bei schlechten Lichtverhältnissen verwendet werden kann und trotzdem gute Erkennungsergebnissen (von Objekten) der Szene erreicht werden können. Die Beleuchtungseinrichtung kann mit der Datenverarbeitungseinrichtung gekoppelt und von dieser in geeigneter Weise gesteuert werden. So kann die Beleuchtungseinrichtung beispielsweise lediglich in vergleichsweise kurzen Zeitspannen und mit einer gewissen Wiederholrate betrieben und damit Energie eingespart werden. Selbstverständlich sollte dann auch die Szenenerfassung durch den Sensor mit der „getakteten Beleuchtung“ synchronisiert werden.According to a further embodiment of the invention, the sensor system further comprises a lighting device for illuminating the scene with an illumination light having a predetermined lighting characteristic. This has the advantage that the described sensor system can also be used in low light conditions and still good recognition results (of objects) of the scene can be achieved. The illumination device can be coupled to the data processing device and controlled by it in a suitable manner. For example, the illumination device can be operated only in comparatively short periods of time and with a certain repetition rate, thus saving energy. Of course, then the scene detection by the sensor with the "clocked lighting" should be synchronized.
Es wird darauf hingewiesen, dass beispielsweise bei Durchgangsbereichen von verschließbaren Öffnungen in Gebäuden, welche von Lichtfeldkameras überwacht werden, zwischen einer sog. aktiven und einer sog. passiven Beleuchtung unterschieden werden kann. Eine aktive Beleuchtung wird durch eine oder mehrere vorstehend beschriebene Beleuchtungseinrichtungen realisiert. Eine passive Beleuchtung basiert auf Fremdlichtquellen, welche natürliche Lichtquellen wie beispielsweise die Sonne und/oder andere in Bezug auf das beschriebene Sensorsystem externe Lichtquellen wie beispielsweise eine Lampe einer Straßenbeleuchtung sein kann.It should be noted that, for example, in the case of passage areas of closable openings in buildings, which are monitored by light field cameras, a distinction can be made between so-called passive lighting and so-called passive lighting. Active illumination is realized by one or more illumination devices described above. Passive lighting is based on extraneous light sources, which may be natural light sources such as the sun and / or other external sources of light, such as a street lighting lamp, with respect to the described sensor system.
Bei durch solche Fremdlichtquellen erzeugten hellen Umgebungssituationen kann auf eine aktive Beleuchtung verzichtet werden, wenn zumindest einer der nachfolgenden Punkte erfüllbar ist:
- (1) Eine Objekterkennung innerhalb der Szene funktioniert aus einer durch die Lichtfeldkamera gewonnen „Punktwolke“ ausreichend zuverlässig. Dies kann von der Datenverarbeitungseinrichtung beispielsweise durch geeignete Plausibilitätsüberprüfungen festgestellt werden.
- (2) Durch einen Anlernprozess kann eine „leere Szene“ (ohne Objekt aber optional mit vorhandenen Störfaktoren wie zum Beispiel Schnee und Regen) analysiert werden. Bei einer nachfolgenden Erfassung einer „nicht leeren Szene“ können dann Änderungen gegenüber der „leeren“ Szene zuverlässig erkannt und einem Objekt zugeordnet werden. Optional kann bei Berücksichtigung der Tatsache, dass keine freischwebenden Objekte erkannt werden dürfen, eine vereinfachte und diese Prämisse erfüllende Erkennung von in der Szene befindlichen Objekten vorgenommen werden. Dies kann auch den Vorteil einer Reduzierung der Rechenleistung (und damit der von dem Sensorsystem verbrauchten Energie) mit sich bringen. Eine solche Energieersparnis kann insbesondere bei einer ständigen Überwachung von Fluchtwegen und Fluchttüren große Vorteile bieten.
- (1) An object recognition within the scene functions sufficiently reliably from a "point cloud" obtained by the light field camera. This can be determined by the data processing device, for example by suitable plausibility checks.
- (2) Through a learning process, an "empty scene" (without object but optionally with existing disturbing factors such as snow and rain) can be analyzed. In a subsequent detection of a "non-empty scene" then changes against the "empty" scene can be reliably detected and assigned to an object. Optionally, taking into account the fact that no free-floating objects may be detected, a simplified and this premise fulfilling detection of objects located in the scene can be made. This can also bring with it the advantage of reducing the computing power (and thus the energy consumed by the sensor system). Such energy savings can offer great advantages, in particular with constant monitoring of escape routes and escape doors.
Auch bei Berücksichtigung der vorstehend genannten Überlegungen zum Verzichten einer aktiven Beleuchtung kann in Situationen mit schwierigen Lichtbedingungen mittels der vorstehend beschriebenen (zusätzlichen) Beleuchtungseinrichtung eine Zusatzbeleuchtung für die Lichtfeldkamera bereitgestellt werden. Solche schwierigen Lichtbedingungen können zum Beispiel gegeben sein in relativ dunklen (geschlossenen) Räumen, außerhalb von Gebäuden bei Dunkelheit, Nebel, Schnee, Regen, Graupel, durch Wind bewegte Vegetation, etc. Es versteht sich jedoch von selbst, dass für diese Betriebsart die eingesetzte Beleuchtungsenergie optimiert werden sollte. Dies kann insbesondere durch Variation der Lichtintensität der Beleuchtung erreicht werden. So kann die bei der Lichtfeldkamera eintreffende reflektierte Lichtmenge optimiert werden.Even in consideration of the above-mentioned considerations for omitting active illumination, additional lighting for the light field camera can be provided in situations with difficult lighting conditions by means of the (additional) illumination device described above. Such difficult lighting conditions may be present, for example, in relatively dark (enclosed) spaces, outside buildings in the dark, fog, snow, rain, sleet, wind-swept vegetation, etc. However, it is understood that for this mode of operation Lighting energy should be optimized. This can be achieved in particular by varying the light intensity of the illumination. Thus, the reflected light quantity arriving at the light field camera can be optimized.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungseinrichtung konfiguriert, das Beleuchtungslicht mit einer zeitlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die zeitliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung ausgewerteten Szene abhängt. Bei diesem Ausführungsbeispiel kann insbesondere eine dynamische, durch situativen Einsatz gegebene oder mittels Einlernens ermittelte Anpassung der Beleuchtung vorgenommen werden. Dabei kann beispielsweise ein unterschiedliches Lichtreflexionsvermögen von (beweglichen) Objekten und/oder Hintergründe einer Szene berücksichtigt werden. Eine solche dynamische Anpassung der Beleuchtung kann (bei Notwendigkeit einer aktiven Beleuchtung durch das gemäß dem hier beschriebenen Ausführungsbeispiel beschriebene Sensorsystem) zu einer signifikanten Energieersparnis führen.According to a further embodiment of the invention, the illumination device configured to emit the illumination light with a time-varying illumination characteristic, wherein in particular the temporal change of the illumination characteristic depends on the result of the evaluated by the data processing device scene. In this embodiment, in particular a dynamic, given by situational use or determined by learning adjustment of the lighting can be made. In this case, for example, a different light reflectivity of (movable) objects and / or backgrounds of a scene can be taken into account. Such a dynamic adjustment of the illumination can lead to significant energy savings (if active illumination is required by the sensor system described according to the exemplary embodiment described here).
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungseinrichtung konfiguriert, das Beleuchtungslicht mit einer örtlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die örtliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung ausgewerteten Szene abhängt.According to a further exemplary embodiment of the invention, the illumination device is configured to emit the illumination light with a locally variable illumination characteristic, wherein in particular the local variation of the illumination characteristic depends on the result of the scene evaluated by the data processing device.
Anschaulich ausgedrückt sorgt die Beleuchtungseinrichtung für eine räumlich inhomogene Beleuchtung der Szene, wobei charakteristische Merkmale der Beleuchtung wie insbesondere die Intensität der Beleuchtung von dem Raumwinkel des Strahlengänge abhängt, über welche die Szene bzw. insbesondere das darin befindlich Objekt optisch erfasst wird. Dabei ist es natürlich sinnvoll, wenn diejenigen Teilbereiche der Szene, in denen sich das zumindest eine Objekt befindet oder in denen das zumindest eine Objekt vermutet wird, mit einer im Vergleich zu den anderen Teilbereichen der Szene höheren Beleuchtungsintensität beleuchtet werden. Ferner kann bei der Auswahl bzw. Einstellung einer geeigneten Beleuchtungsintensität der (zu erwartende) Abstand des zumindest einen Objekts berücksichtigt werden. Konkret werden weiter entfernt liegende Objekte mit einer höheren Beleuchtungsintensität beleuchtet und dadurch der Effekt der Ausweitung von Lichtstrahlen des Beleuchtungslichts zumindest annähernd kompensiert.Illustratively, the illumination device ensures spatially inhomogeneous illumination of the scene, with characteristic features of the illumination, in particular the intensity of the illumination, being dependent on the solid angle of the beam path, via which the scene or in particular the object located therein is optically detected. In this case, it makes sense, of course, if those subregions of the scene in which the at least one object is located or in which the at least one object is suspected are illuminated with a higher illumination intensity compared to the other subregions of the scene. Furthermore, the (expected) distance of the at least one object can be taken into account when selecting or setting a suitable illumination intensity. Specifically, more distant objects are illuminated with a higher illumination intensity and thereby at least approximately compensates for the effect of the expansion of light beams of the illumination light.
Ferner kann durch eine geeignete Fokussierung oder optische Abbildung des Beleuchtungslichts dafür Sorge getragen werden, dass zumindest Teilbereiche der Szene nicht vollständig sondern mittels diskreten voneinander beanstandeten Beleuchtungslichtstrukturen, beispielsweise Lichtpunkte bzw. Lichtlinien, beleuchtet werden. Dies stellt eine weitere Möglichkeit für eine wirksame Energieeinsparung in Bezug auf eine aktive Beleuchtung dar. In diesem Zusammenhang wird darauf hingewiesen, dass die Beabstandung benachbarter Beleuchtungslichtstrukturen kleiner sein sollte als die minimale Größe der zu detektierenden Objekte bzw. Objektteile. Optional kann auch berücksichtig werden, dass sich die Beleuchtungsstrukturen und deren Abstände voneinander mit zunehmendem Abstand von dem Sensor vergrößern bzw. aufweiten. Dies bedeutet, dass für eine Erkennung von weiter entfernten Objekten sich die Lichtstrahlen des Beleuchtungslichts bzw. die Beleuchtungsstrukturen in dem Beleuchtungslicht nicht zu stark aufweiten dürfen, um eine ausreichende Beleuchtung und damit sichere Erkennung des Objekts zu gewährleisten. Furthermore, by suitable focusing or optical imaging of the illumination light, care can be taken that at least partial areas of the scene are not illuminated completely but by means of discrete illumination light structures, for example light points or light lines, which are disputed from one another. This represents another possibility for an effective energy saving with respect to an active illumination. In this connection it is pointed out that the spacing of adjacent illumination light structures should be smaller than the minimum size of the objects or object parts to be detected. Optionally, it can also be taken into account that the illumination structures and their distances from each other increase or expand with increasing distance from the sensor. This means that, for detection of objects located farther away, the light beams of the illumination light or the illumination structures in the illumination light must not spread too much in order to ensure sufficient illumination and thus reliable detection of the object.
Bevorzugt ist die Beleuchtungseinrichtung (kommunikativ) mit der Datenverarbeitungseinrichtung gekoppelt, sodass der Betrieb der Beleuchtungseinrichtung von der Datenverarbeitungseinrichtung gesteuert werden kann. Weiter bevorzugt erfolgt diese Steuerung in Abhängigkeit der aktuellen Charakteristik der Szene, sodass die Beleuchtung dynamisch an sich veränderliche Szenen angepasst und stets eine optimale Beleuchtung der Szene erreicht werden kann. Dabei kann bei besonders bevorzugten Ausführungsformen die Beleuchtung bzw. die Beleuchtungsintensität von der Helligkeit bzw. dem optischen Reflexionsvermögen der Oberfläche des Objekts abhängen. Konkret bedeutet dies, dass bei hellen bzw. stark reflektierenden Objekten die Intensität des Beleuchtungslichts kleiner sein kann als bei dunklen bzw. schwach reflektierenden Objekten.Preferably, the illumination device is (communicatively) coupled to the data processing device, so that the operation of the illumination device can be controlled by the data processing device. More preferably, this control is done depending on the current characteristics of the scene, so that the lighting dynamically adapted to changing scenes and always optimal lighting of the scene can be achieved. In this case, in particularly preferred embodiments, the illumination or the illumination intensity may depend on the brightness or the optical reflectivity of the surface of the object. Specifically, this means that in bright or highly reflective objects, the intensity of the illumination light can be smaller than in dark or weakly reflective objects.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungscharakteristik durch zumindest eines der folgenden Merkmale bestimmt: (a) Intensität für zumindest einen Teilbereich der Szene, (b) Intensitätsunterschiede zwischen verschiedenen Teilbereichen der Szene, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, und (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen. Durch eine anwendungsspezifische Verwendung von einem dieser Merkmale oder durch eine geeignete Kombination von zumindest zwei dieser Merkmale können die zu erkennenden Objekte besonders gut beleuchtet und als Ergebnis mit besonders hoher Genauigkeit und Zuverlässigkeit erkannt werden.According to a further embodiment of the invention, the illumination characteristic is determined by at least one of the following features: (a) intensity for at least a portion of the scene, (b) intensity differences between different portions of the scene, (c) wavelength, (d) spectral intensity distribution, ( e) polarization direction, and (f) intensity distribution for different polarization directions. By an application-specific use of one of these features or by a suitable combination of at least two of these features, the objects to be recognized can be illuminated particularly well and recognized as a result with particularly high accuracy and reliability.
Hinsichtlich der Größe der Teilbereiche der Szene bestehen keine besonderen Einschränkungen. Im Extremfall kann ein Teilbereich genau einem Pixel des Sensors zugeordnet sein.With regard to the size of the subregions of the scene, there are no particular restrictions. In extreme cases, a partial area can be assigned to exactly one pixel of the sensor.
Die Wellenlänge, Frequenz bzw. Farbe des Beleuchtungslichts kann durch eine geeignete Ansteuerung von spektral unterschiedlichen Leuchtelementen, insbesondere LEDs mit unterschiedlicher Farbe, variiert bzw. an die zu erwartende Charakteristik der Szene angepasst werden. Die Polarisationsrichtung des Beleuchtungslichts kann auf bekannte Weise beispielsweise durch die Verwendung von Polarisationsfiltern eingestellt werden.The wavelength, frequency or color of the illumination light can be varied by a suitable control of spectrally different light-emitting elements, in particular LEDs with different colors, or adapted to the expected characteristic of the scene. The polarization direction of the illumination light may be known For example, be set by the use of polarizing filters.
Alle genannten charakteristischen Merkmale können optional dynamisch an sich veränderliche Szenen angepasst werden, sodass stets eine möglichst optimale Beleuchtung der Szene erreicht werden kann. Dabei kann eine optimale Beleuchtungscharakteristik auch nach dem Prinzip „Try-and-Error“ oder durch andere statistischen Optimierungsprozeduren ermittelt werden. Dies kann dynamisch während eines reellen Betriebs des Sensorsystems oder im Rahmen einer Kalibrierung mittels einer Erkennung von geeigneten Referenzobjekten erfolgen.All mentioned characteristic features can optionally be adapted dynamically to changing scenes, so that the best possible illumination of the scene can always be achieved. In this case, an optimal lighting characteristic can also be determined according to the principle of "try-and-error" or by other statistical optimization procedures. This can be done dynamically during a real operation of the sensor system or as part of a calibration by means of a detection of suitable reference objects.
Gemäß einem weiteren Aspekt der Erfindung wird beschrieben ein Verfahren zum Bestimmen der Charakteristik einer Szene mit einem Sensorsystem und insbesondere mit einem Sensorsystem des vorstehend genannten Typs. Das Verfahren weist auf (a) ein dreidimensionales optischen Erfassen der Szene und eines in der Szene enthaltenen Objekts mittels eines auf dem Prinzip einer Lichtfeldkamera basierender Sensors; und (b) ein Auswerten der optisch erfassten Szene mittels einer dem Sensor nachgeschalteten Datenverarbeitungseinrichtung, wobei von einem in der Szene enthaltenen Objekt in Echtzeit Bewegungsprofile bestimmt werden.According to a further aspect of the invention, a method is described for determining the characteristic of a scene with a sensor system and in particular with a sensor system of the aforementioned type. The method comprises (a) three-dimensional optical detection of the scene and of an object contained in the scene by means of a sensor based on the principle of a light field camera; and (b) evaluating the optically detected scene by means of a data processing device connected downstream of the sensor, wherein motion profiles are determined in real time by an object contained in the scene.
Auch dem beschriebenen Verfahren liegt die Erkenntnis zugrunde, dass durch die Verwendung eines als Lichtfeldkamera ausgebildeten Sensors auf energetisch effiziente Art und Weise bewegte Objekte erkannt und deren Bewegungsprofil in Echtzeit (mittels der dem optischen Sensor nachgeschalteten Datenverarbeitungseinrichtung) bestimmt werden können.The described method is also based on the knowledge that the use of a sensor designed as a light field camera can detect moving objects in an energy-efficient manner and determine their motion profile in real time (by means of the data processing device connected downstream of the optical sensor).
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Verfahren ferner auf ein Beleuchten der Szene mit einem Beleuchtungslicht, welches von einer Beleuchtungseinrichtung ausgesandt wird und welches eine vorbestimmte Beleuchtungscharakteristik aufweist, wobei die Beleuchtungscharakteristik für einen vorgegebenen Teilbereich der Szene eine bestimmte maximale Beleuchtungsintensität aufweist. Dadurch kann auf vorteilhafte Weise verhindert werden, dass manche Bereiche der Szene „überbelichtet“ werden. Eine Bestimmung des Pegels dieser maximalen Beleuchtungsintensität kann erfolgen im Wege einer Kalibrierung automatisch und/oder zyklisch jeweils nach einer vorbestimmten Betriebszeitspanne des beschriebenen Sensorsystems. Der maximale Beleuchtungsintensitätspegel kann auch während des Betriebs des Sensorsystems dynamisch eingestellt bzw. adaptiert werden, indem Ergebnisse der Datenverarbeitungseinrichtung in geeigneter Weise für eine entsprechende Intensitätseinstellung des Beleuchtungslichts verwendet werden.According to a further exemplary embodiment of the invention, the method further comprises illuminating the scene with an illumination light which is emitted by an illumination device and which has a predetermined illumination characteristic, wherein the illumination characteristic has a specific maximum illumination intensity for a predetermined subarea of the scene. As a result, it can be advantageously prevented that some areas of the scene are "overexposed". A determination of the level of this maximum illumination intensity can take place by means of a calibration automatically and / or cyclically in each case after a predetermined operating period of the described sensor system. The maximum illumination intensity level may also be dynamically adjusted during operation of the sensor system by appropriately using data processing device results for a corresponding intensity adjustment of the illumination light.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Verfahren ferner auf ein Vergleichen des erfassten Objekts mit zumindest einem Vergleichsobjekt; und, wenn das Objekt innerhalb vorgegebener zulässiger Abweichungen mit einem Vergleichsobjekt übereinstimmt, Identifizieren des Objekts als ein für eine bestimmte Aktion zugelassenes Objekt.According to a further embodiment of the invention, the method further comprises comparing the detected object with at least one comparison object; and, if the object agrees with a comparison object within predetermined permissible deviations, identifying the object as an object authorized for a particular action.
Die zugelassene Aktion kann beispielsweise eine erlaubte Passage durch eine Öffnung in einem Gebäude sein, welche Öffnung vor der Identifizierung als zugelassenes Objekt durch einen Verschließkörper verschlossen ist und erst nach der erfolgreichen Identifizierung durch eine entsprechende Bewegung des Verschließkörpers geöffnet wird. Die zu identifizierenden Objekte können bevorzugt Personen und/oder Fahrzeuge sein. Eine erfolgreiche Identifizierung kann zur Steuerung bzw. zur Aktivierung eines Verschlussmechanismus für einen Verschließkörper vor einer Öffnung eines Gebäudes sein.The approved action may, for example, be an authorized passage through an opening in a building, which opening is closed by a closure body prior to identification as an approved object and is opened only after successful identification by a corresponding movement of the closure body. The objects to be identified may preferably be persons and / or vehicles. Successful identification may be to control or activate a closure mechanism for a closure body prior to opening a building.
Durch die Verwendung der 3D (Tiefen-) Information des als Lichtfeldkamera ausgebildeten Sensors kann bei Personen beispielsweise eine zuverlässige Gesichtserkennung realisiert werden, welche zur Aktivierung eines Verschlussmechanismus verwendet werden kann. Dabei können bestimmte Bereiche der Szene besonders beleuchtet und mit eine erhöhten Auflösung versehen werden, so dass dies wiederum zu einer Energiereduktion gegenüber der Überwachung der ganzen Szene in Hochauflösung oder bei voller Beleuchtung führt.By using the 3D (depth) information of the sensor designed as a light field camera, for example, a reliable face recognition can be realized in persons, which can be used to activate a shutter mechanism. Certain areas of the scene can be particularly illuminated and provided with an increased resolution, which in turn leads to an energy reduction compared to monitoring the entire scene in high definition or with full illumination.
Anstelle von Personen können bei anderen Ausführungsformen auch geprägte Schilder, insbesondere Nummernschilder von Fahrzeugen, zuverlässig erfasst und erkannt werden. Durch die 3D Informationen kann nämlich die Prägung des Kennzeichens gut erkannt werden, was zu einer verbesserten Lesezuverlässigkeit führt. Insbesondere kann auf diese Weise eine allfällige Fälschung eines Kennzeichens besser erkannt werden.Instead of persons embossed signs, in particular license plates of vehicles can be reliably detected and recognized in other embodiments. Namely, by the 3D information, the embossing of the mark can be recognized well, resulting in improved reading reliability. In particular, a possible counterfeiting of a license plate can be better recognized in this way.
Gemäß einem weiteren Aspekt der Erfindung wird beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor, insbesondere eines vorstehend beschriebenen Sensorsystems, für ein Steuern einer Bedeckungscharakteristik einer von einem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper.According to a further aspect of the invention, a use of a sensor system with a sensor based on the principle of a light field camera, in particular of a sensor system described above, for controlling a coverage characteristic of an opening to be passed through an object by at least one closure body is described.
Der beschriebenen Verwendung des eine Lichtfeldkamera aufweisenden Sensorsystems liegt die Erkenntnis zugrunde, dass eine auf energetisch effiziente Weise vorgenommen Erfassung und Auswertung einer optischen Szene auf vorteilhafte Weise bei Durchgängen eingesetzt werden kann, welche von einem Verschließkörper verschlossen werden können. Dies gilt insbesondere für Durchgänge, welche eine Verschluss- bzw. eine Bedeckungscharakteristik aufweisen, die von dem beschriebenen Sensorsystem gesteuert oder zumindest mitgesteuert wird. Da solche Sensorsysteme üblicherweise durch die Verschlusssysteme für die Verschließkörper mit Energie versorgt werden, ist es besonders wichtig, mit einer vergleichsweise geringen Energiemenge auszukommen und trotzdem zu zuverlässigen Szenenauswertungen zu kommen. Durch die erfindungsgemäße Verwendung eines als Lichtfeldkamera ausgebildeten Sensors können auf energetisch effiziente Weise auch größere Distanzen überwacht werden, welches naturgemäß zu einem früheren Erkennen einer Öffnungsanforderung des Verschließkörpers führt, was insbesondere bei sich schnell bewegenden Objekten von großem Vorteil sein kann. Ferner kann die Szene mit einem breiteren Erfassungswinkel erfasst werden, was beispielswiese zu einem frühzeitiges Erkennen von sich quer zur Öffnung bewegenden Querverkehr und damit zu einem zuverlässigeres Erkennen von Objekten im Sicherheitsbereich des Verschlusssystems führen kann.The described use of the sensor system having a light field camera is based on the finding that an energy-efficient detection and evaluation of an optical scene can be advantageously used in passages which are closed by a closing body can be. This applies in particular to passages which have a closure or a cover characteristic which is controlled or at least co-controlled by the described sensor system. Since such sensor systems are usually supplied with energy by the closure systems for the closure bodies, it is particularly important to manage with a comparatively small amount of energy and nevertheless to come to reliable scene evaluations. The inventive use of a trained as a light field camera sensor can be monitored in an energetically efficient manner and larger distances, which naturally leads to an earlier detection of an opening requirement of the closing body, which can be of great advantage especially for fast moving objects. Furthermore, the scene can be detected with a wider detection angle, which can lead, for example, to an early detection of transverse traffic moving transversely to the opening and thus to a more reliable detection of objects in the security area of the closure system.
Gemäß einem Ausführungsbeispiel der Erfindung ist die Öffnung ein Eingang oder ein Ausgang, insbesondere ein Notausgang in einem Gebäude. Durch das Erkennen eines zwar vorhandenen, aber sich ggf. nicht bewegenden Objektes in einem Durchgang kann ein Eingang oder Ausgang, insbesondere ein blockierter Notausgang erkannt und diese Information an ein angegliedertes System, beispielsweise an ein Überwachungssystem übermittelt werden.According to one embodiment of the invention, the opening is an entrance or an exit, in particular an emergency exit in a building. By recognizing an existing, but possibly non-moving object in one pass, an input or output, in particular a blocked emergency exit can be detected and this information is transmitted to an affiliated system, for example to a monitoring system.
Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist das Objekt eine Person oder ein Fahrzeug. In diesem Fall kann das Gebäude insbesondere ein Haus oder eine Garage sein.According to a further embodiment of the invention, the object is a person or a vehicle. In this case, the building may in particular be a house or a garage.
Gemäß einem weiteren Aspekt der Erfindung wird beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor, insbesondere eines vorstehend beschriebenen Sensorsystems, für ein Erfassen und/oder Steuern von Verkehrsströmen von Objekten, welche sich durch eine Szene des Sensorsystems bewegen, wobei die Szene durch einen räumlichen Erfassungsbereich des Sensorsystems bestimmt ist.According to a further aspect of the invention is described a use of a sensor system with a sensor based on the principle of a light field camera, in particular a sensor system described above, for detecting and / or controlling traffic flows of objects which move through a scene of the sensor system, wherein the scene is determined by a spatial detection range of the sensor system.
Auch dieser beschriebenen Verwendung liegt die Erkenntnis zugrunde, dass es bei einer Verkehrserfassung und/oder Verkehrsstromlenkung auf eine energieeffiziente Sensorik ankommt, da diese Sensorik typischerweise ständig in Betrieb ist. Die für den betreffenden Verkehrsstrom relevanten Objekte können beispielsweise Personen, Fahrzeuge, Produkte wie z.B. Pakete, Koffer, etc. sein. Da für derartige Anwendungen üblicherweise eine Mehrzahl oder gar eine Vielzahl von 3D Sensoren einsetzt werden, wirken sich hier Energieeinsparungen besonders positiv aus.This described use is also based on the finding that an energy-efficient sensor system is important in traffic detection and / or traffic flow control, since this sensor system is typically constantly in operation. The objects relevant to the traffic flow in question can be, for example, persons, vehicles, products such as e.g. Be packages, suitcases, etc. Since a plurality or even a multiplicity of 3D sensors are usually used for such applications, energy savings have a particularly positive effect here.
Es wird darauf hingewiesen, dass Ausführungsformen der Erfindung mit Bezug auf unterschiedliche Erfindungsgegenstände beschrieben wurden. Insbesondere sind einige Ausführungsformen der Erfindung mit Vorrichtungsansprüchen und andere Ausführungsformen der Erfindung mit Verfahrensansprüchen bzw. Verwendungsansprüchen beschrieben. Dem Fachmann wird jedoch bei der Lektüre dieser Anmeldung sofort klar werden, dass, sofern nicht explizit anders angegeben, zusätzlich zu einer Kombination von Merkmalen, die zu einem Typ von Erfindungsgegenstand gehören, auch eine beliebige Kombination von Merkmalen möglich ist, die zu unterschiedlichen Typen von Erfindungsgegenständen gehören.It should be noted that embodiments of the invention have been described with reference to different subject matters. In particular, some embodiments of the invention are described with apparatus claims and other embodiments of the invention with method claims. However, it will be readily apparent to those skilled in the art upon reading this application that, unless explicitly stated otherwise, in addition to a combination of features belonging to a type of subject matter, any combination of features that may result in different types of features is also possible Subject matters belong.
Bevor bezugnehmend auf die Zeichnung exemplarische Ausführungsbeispiele der Erfindung beschrieben werden, werden im Weiteren einige technische Überlegungen im Zusammenhang mit der Erfindung dargestellt.Before describing exemplary embodiments of the invention with reference to the drawing, some technical considerations in connection with the invention are presented below.
Eine Lichtfeldkamera ermöglicht in bekannter Weise eine dreidimensionale Erfassung einer Szene. Insbesondere auf dem technischen Gebiet der Überwachung eines Schließbereiches einer durch einen Verschließkörper verschließbaren Öffnung und/oder einer Steuerung der Bewegung eines solchen Verschließkörpers ist ein Sensorsystem von großem Vorteil, welches eine hohe Energieeffizienz bzw. einen niedrigen Energieverbrauch aufweist. Gleiches gilt für (ständig im Betrieb befindliche) Sensorsysteme zur Überwachung und/oder Steuerung von Verkehrsströmen. Bei Sensorsystemen mit einer eigenen (aktiven) Beleuchtungseinrichtung trägt diese maßgeblich zu dem Energieverbrauch bei. Daher ist eine hohe „Lichteffizienz“ nicht nur der Beleuchtung sondern auch (des Sensors) der Sensorvorrichtung von großer Bedeutung.A light field camera allows a three-dimensional detection of a scene in a known manner. Particularly in the technical field of monitoring a closing area of an opening which can be closed by a closing body and / or controlling the movement of such a closing body, a sensor system which has high energy efficiency or low energy consumption is of great advantage. The same applies to (constantly in operation) sensor systems for monitoring and / or controlling traffic flows. In sensor systems with their own (active) lighting device, this contributes significantly to energy consumption. Therefore, high "light efficiency" not only of the illumination but also of the sensor device is of great importance.
Im Wissen um diese grundlegende Wichtigkeit einer möglichst hohen optischen Energieeffizienz lässt sich durch eine niedrige Auflösung signifikant Beleuchtungsenergie einsparen und trotzdem gewährleisten, dass eine ausreichende Menge an Lichtenergie bzw. Lichtleistung auf den Sensor auftrifft. Die für gewisse Anwendungen benötigten Entscheidungskriterien in Hinblick auf eine zuverlässige Erkennung eines Objekts der Szene lassen sich durch eine geeignete Interpretation von zusätzlichen optischen Merkmalen der detektierten Strahlung energetisch günstiger ermitteln, als dies durch eine höhere Auflösung erreicht werden könnte. Eine solche Interpretation kann insbesondere vorgenommen werden von der Datenverarbeitungseinrichtung des beschriebenen Sensorsystems.In the knowledge of this fundamental importance of the highest possible optical energy efficiency can be saved by a low resolution significantly lighting energy and still ensure that a sufficient amount of light energy or light output is incident on the sensor. The decision criteria required for certain applications with regard to a reliable detection of an object of the scene can be determined by a suitable interpretation of additional optical features of the detected radiation energetically more favorable than could be achieved by a higher resolution. Such an interpretation can be made in particular by the data processing device of the described sensor system.
Insbesondere bei der Erkennung und Verfolgung des Objekts ist es von hoher Wichtigkeit, in der jeweils erfassten Szene zusammenhängende Objektteile mit ähnlichen optischen Eigenschaften zuverlässig als zu einem Objekt gehörig zu interpretieren. Da zusammenhängende Objektteile sehr häufig ähnliche Eigenschaften aufweisen, lässt sich durch ein Sensorsystem, das solche Eigenschaften erkennt, ein entsprechender Zusammenhang bilden und Rechenleistung und damit auch Energie einsparen. Particularly in the case of recognition and tracking of the object, it is of great importance to reliably interpret object parts with similar optical properties which belong together in the respectively detected scene as belonging to an object. Since connected object parts very often have similar properties, a sensor system that recognizes such properties can form a corresponding relationship and save computing power and therefore also energy.
Solche ähnlichen Eigenschaften können Muster, Farben, Reflexionseigenschaften über ein beliebig breites optisches Spektrum, Polarisationsrichtung des detektierten Lichts, optische Kontraste, etc. sein. Ferner können auch in Bezug auf das Sensorsystem interne Faktoren wie die Eigenschaften einer eigenen Beleuchtung durch eine Beleuchtungseinrichtung und/oder einer Fremdbeleuchtung bei dem optischen Erfassen der Szene und damit auch bei der nachfolgenden Auswertung der optisch erfassten Szene berücksichtigt werden.Such similar properties may be patterns, colors, reflection properties over an arbitrarily wide optical spectrum, polarization direction of the detected light, optical contrasts, etc. Furthermore, with regard to the sensor system, internal factors such as the properties of a separate illumination by a lighting device and / or external illumination in the optical detection of the scene and thus also in the subsequent evaluation of the optically detected scene can be taken into account.
So kann z.B. berücksichtigt werden, dass von Fremdlicht (z.B. Sonnenlicht) reflektierte Lichtstrahlen eine andere Polarisationsrichtung haben wie dasjenige Licht, welches bestimmungsgemäß für das Erfassen der Szene verwendet werden soll. Auch spektrale Einflüsse wie die Tatsache, dass z.B. rote Oberflächen wenig blaues und grünes Licht reflektieren, können als eine wertvolle Zusatzinformation bei der Auswertung bzw. Interpretation der optisch erfassten Szene verwendet (und dabei im Vergleich zu einer Nichtberücksichtigung dieser Zusatzinformation) Energie eingespart werden. Ferner können störende Einflüsse durch eine gezielte (dynamische) Optimierung der Beleuchtungscharakteristik einer eigenen aktiven Beleuchtung ausgeblendet werden.Thus, e.g. It should be appreciated that light rays reflected from extraneous light (e.g., sunlight) have a different polarization direction than the light intended to be used to detect the scene. Also spectral influences such as the fact that e.g. Red surfaces reflect little blue and green light, can be used as valuable additional information in the evaluation or interpretation of the optically captured scene (and thereby compared to a disregard of this additional information) energy can be saved. Furthermore, disturbing influences can be masked out by a targeted (dynamic) optimization of the lighting characteristic of a separate active lighting.
Eine Ausführungsform der Erfindung erreicht eine Energieeinsparung mittels einer dynamischen Beleuchtungsenergieoptimierung, wobei Beleuchtungsenergien von unterschiedlichen Wellenlängen bzw. Frequenzen verwendet werden. Dabei können beispielsweise abhängig von der Farbe des Objekts die Wellenlängen, die zu den intensivsten Reflexionen bzw. Lichtstreuungen führen, mit einer geringeren Beleuchtungsenergie ausgesendet werden. Im Gegensatz dazu werden andere Wellenlängen bzw. andere Wellenlängenbereiche mit geringerer Reflexion bzw. Streuung mit einer höheren Intensität beleuchtet. So kann beispielsweise ein rotes Objekt so primär mit einem rotem Lichtanteil beleuchtet und der grüne und der blaue Lichtanteil wird (für den betreffenden Raumwinkel) reduziert, bevorzugt auf zumindest annähernd eine Intensität von Null. Dasselbe Prinzip kann auch im Verhältnis zwischen sichtbarem Licht und infraroten (IR) Licht angewendet werden.An embodiment of the invention achieves energy savings by means of dynamic lighting energy optimization using illumination energies of different wavelengths or frequencies. In this case, depending on the color of the object, the wavelengths which lead to the most intense reflections or light scattering can be emitted with a lower illumination energy, for example. In contrast, other wavelengths or other wavelength regions are illuminated with less reflection or scattering with a higher intensity. Thus, for example, a red object is illuminated primarily with a red light component and the green and the blue light component are reduced (for the relevant solid angle), preferably to at least approximately an intensity of zero. The same principle can also be applied in the relationship between visible light and infrared (IR) light.
Die vorstehend beschriebenen zusätzlichen Informationen bzw. zusätzlichen optischen Merkmale der detektierten Strahlung (pro Pixel und mit zugehöriger Distanz und Raumwinkel) können bei dem erfindungsgemäßen Bestimmen des Bewegungsprofils von Objekten von großem Vorteil sein, weil dadurch einfacher Objekte erkannt und verfolgt werden können. Außerdem können funktionelle Zusammengehörigkeiten von Raumpunkten (zu ein und demselben Objekt) über die genannten zusätzlichen Informationen zusätzlich gruppierend ausgewertet und interpretiert werden können.The above-described additional information or additional optical features of the detected radiation (per pixel and with the associated distance and solid angle) can be of great advantage in determining the motion profile of objects according to the invention, since in this way simple objects can be detected and tracked. In addition, functional relationships of spatial points (to one and the same object) can additionally be grouped and interpreted in a grouping manner via the additional information mentioned.
Wenn das in diesem Dokument beschriebene Sensorsystem zu einer Absicherung und/oder einer Aktivierung eines Verschließkörpers an einem Durchgang eingesetzt wird, dann kann zusätzlich mit unterschiedlichen Auflösungen und Messsicherheiten gearbeitet werden. So kann zum Beispiel im Rahmen der Absicherung einer Schiebetüre oder eines vertikalen Torantriebs der Umstand berücksichtigt werden, dass die Absicherung einer Schließfunktion mit der damit verbundenen Gefahr einer Einklemmung nur in direkter Umgebung des Schließkörpers stattfinden muss. So kann im Sinne von Energieoptimierung insbesondere diese Zone unmittelbar vor oder während des Schließvorgangs mit einer hohen Auflösung überwacht werden. Andere Bereiche der Szene, also z.B. die Bereiche an welchen sich der Verschließkörper bereits vorbeibewegt hat, können mit geringerer Auflösung überwacht werden, was zu einer Energieeinsparung führt.If the sensor system described in this document is used for securing and / or activating a closing body on a passage, it is additionally possible to work with different resolutions and measuring safety. For example, in the context of securing a sliding door or a vertical door drive, the fact that the safeguarding of a closing function with the risk of entrapment associated therewith must take place only in the immediate vicinity of the closing body. Thus, in the sense of energy optimization, in particular, this zone can be monitored immediately before or during the closing process with a high resolution. Other areas of the scene, e.g. the areas where the closing body has already passed can be monitored at a lower resolution, which leads to energy savings.
Weitere Vorteile und Merkmale der vorliegenden Erfindung ergeben sich aus der folgenden beispielhaften Beschreibung derzeit bevorzugter Ausführungsformen. Die einzelnen Figuren der Zeichnung dieses Dokuments sind lediglich als schematisch und als nicht maßstabsgetreu anzusehen.Further advantages and features of the present invention will become apparent from the following exemplary description of presently preferred embodiments. The individual figures of the drawing of this document are merely schematic and not to scale.
Figurenlistelist of figures
-
1 zeigt die Verwendung eines Sensorsystems zum Steuern einer Bedeckungscharakteristik einer Öffnung mittels als Schiebetüren ausgebildeten Verschließkörpern .1 shows the use of a sensor system for controlling a coverage characteristic of an opening by means of closing bodies formed as sliding doors. -
2 zeigt die Verwendung eines Sensorsystems zum Erfassen eines Verkehrsflusses von auf einem Förderband transportierten Objekten.2 shows the use of a sensor system for detecting a traffic flow of transported on a conveyor belt objects. -
3a bis3c zeigen verschiedenen Ausführungsformen eines Sensorchips für die in1 dargestellte Lichtfeldkamera.3a to3c show various embodiments of a sensor chip for in1 illustrated light field camera.
Detaillierte BeschreibungDetailed description
Es wird darauf hingewiesen, dass in der folgenden detaillierten Beschreibung Merkmale bzw. Komponenten von unterschiedlichen Ausführungsformen, die mit den entsprechenden Merkmalen bzw. Komponenten von einer anderen Ausführungsform nach gleich oder zumindest funktionsgleich sind, mit den gleichen Bezugszeichen oder mit Bezugszeichen versehen sind, welche in den letzten beiden Ziffern identisch sind mit den Bezugszeichen von entsprechenden gleichen oder zumindest funktionsgleichen Merkmalen bzw. Komponenten. Zur Vermeidung von unnötigen Wiederholungen werden bereits anhand einer vorher beschriebenen Ausführungsform erläuterte Merkmale bzw. Komponenten an späterer Stelle nicht mehr im Detail erläutert.It should be noted that in the following detailed description features or components of different embodiments, with the corresponding features or Components of another embodiment are the same or at least functionally identical, are provided with the same reference numerals or with reference numerals, which are identical in the last two digits with the reference numerals of corresponding same or at least functionally identical features or components. In order to avoid unnecessary repetitions, features or components already explained on the basis of a previously described embodiment will not be explained in detail later.
Ferner wird darauf hingewiesen, dass die nachfolgend beschriebenen Ausführungsformen lediglich eine beschränkte Auswahl an möglichen Ausführungsvarianten der Erfindung darstellen. Insbesondere ist es möglich, die Merkmale einzelner Ausführungsformen in geeigneter Weise miteinander zu kombinieren, so dass für den Fachmann mit den hier explizit dargestellten Ausführungsvarianten eine Vielzahl von verschiedenen Ausführungsformen als offensichtlich offenbart anzusehen sind.It should also be noted that the embodiments described below represent only a limited selection of possible embodiments of the invention. In particular, it is possible to suitably combine the features of individual embodiments with one another, so that a multiplicity of different embodiments are to be regarded as obviously disclosed to the person skilled in the art with the embodiment variants explicitly illustrated here.
Die Eingangsstruktur
Das Sensorsystem
Das Vision System
Nach einem Passieren des Objekts
Gemäß dem hier dargestellten Ausführungsbeispiel ist das Sensorsystem
Um die Szene
Aus Gründen der Energieeffizienz sollte die Beleuchtungseinrichtung
(A) Die Szene
(B) Die spektrale Verteilung des Beleuchtungslichts kann (adaptiv) an das optische Erscheinungsbild des Objekts
(C) Ferner kann das Beleuchtungslicht
(D) Weitere Energieeinsparmöglichkeiten ergeben sich durch die Ausnutzung von unterschiedlichen Polarisationsrichtungen des Beleuchtungslichts
Es wird darauf hingewiesen, dass auch die Erfassung des von der Szene
Gemäß dem hier dargestellten Ausführungsbeispiel erfasst das Vision System
Es wird darauf hingewiesen, dass eine solche ungleiche räumliche Auflösung dann nicht zu einer reduzierten Erkennungssicherheit eines Objekts führt, wenn die Teilbereiche der Szene, in welchen sich das Objekt befindet, mit der vollen Auflösung erfasst werden, und andere Teilbereiche der Szene, insbesondere Hintergründe, mit der niedrigen Auflösung erfasst werden. Es wird ferner darauf hingewiesen, dass das beschriebene Zusammenfassen von Pixeln bei manchen Sensorchips auch dynamisch bzw. adaptiv in genau den Teilbereichen durchgeführt werden kann, in denen sich gerade das Objekt befindet. In Falle einer nicht adaptiven Zusammenfassung von Pixeln können die verschiedenen Sensorbereiche auch mittels unterschiedlichen Sensorchips realisiert werden. Dies hat den Vorteil, dass die Kosten für die unterschiedlichen Sensorchips niedriger sein können als ein solcher Sensorchip mit einer adaptiv einstellbaren räumlichen Auflösung.It should be noted that such an unequal spatial resolution does not lead to a reduced recognition reliability of an object when the subregions of the scene in which the object is located are captured with the full resolution, and other subregions of the scene, in particular backgrounds, be detected with the low resolution. It is further pointed out that the described summarization of pixels in some sensor chips can also be carried out dynamically or adaptively in exactly the subregions in which the object is currently located. In the case of a non-adaptive combination of pixels, the different sensor areas can also be realized by means of different sensor chips. This has the advantage that the costs for the different sensor chips can be lower than such a sensor chip with an adaptively adjustable spatial resolution.
Gemäß dem dargestellten Ausführungsbeispiel ist die Auflösung entlang einer y-Richtung die volle Auflösung, welche der Sensorchip
Es wird darauf hingewiesen, dass die räumliche feste und nicht veränderliche Aufteilung in die beiden Sensorbereiche
In einer anderen aus Gründen der Übersichtlichkeit in diesem Dokument nicht dargestellten Ausführungsformen sind die beiden Sensorbereiche
Zuletzt sei angemerkt, dass der Begriff „aufweisen“ nicht andere Elemente ausschließt und dass das „ein“ nicht eine Mehrzahl ausschließt. Auch können Elemente, die in Zusammenhang mit unterschiedlichen Ausführungsbeispielen beschrieben sind, kombiniert werden. Es sollte auch angemerkt werden, dass Bezugszeichen in den Ansprüchen nicht als den Schutzbereich der Ansprüche beschränkend ausgelegt werden sollen.Finally, it should be noted that the term "comprising" does not exclude other elements and that the "on" does not exclude a plurality. Also, elements described in connection with different embodiments may be combined. It should also be noted that reference signs in the claims should not be construed as limiting the scope of the claims.
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 100100
- Sensorsystemsensor system
- 110110
- Vision SystemVision system
- 111111
- Halterungholder
- 120120
- Sensor / LichtfeldkameraSensor / light field camera
- 130130
- Beleuchtungseinrichtunglighting device
- 130a130a
- Beleuchtungslichtillumination light
- 140140
- DatenverarbeitungseinrichtungData processing device
- 150150
- DatenbankDatabase
- 160160
- Anschlussconnection
- 180180
- Eingangsstrukturinput structure
- 182182
- stationäre Haltestrukturstationary holding structure
- 184184
- Öffnung / EingangOpening / entrance
- 186186
- Verschließkörper / SchiebetürClosing body / sliding door
- 187187
- Motorengine
- 190190
- Szenescene
- 195195
- Objekt object
- 290290
- Szenescene
- 295a-e295a-e
- Objekteobjects
- 298298
- Förderband conveyor belt
- 321a-c321a-c
- lichtsensitive Oberfläche / Sensorchiplight-sensitive surface / sensor chip
- 322a/c322a / c
- erster Sensorbereichfirst sensor area
- 324324
- Pixelpixel
- 326a/c326a / c
- zweiter Sensorbereichsecond sensor area
- 328328
- übergeordnete Pixelparent pixels
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- US 7984590 [0005]US 7984590 [0005]
- EP 2453252 B1 [0006]EP 2453252 B1 [0006]
Claims (21)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017129663.8A DE102017129663A1 (en) | 2017-12-12 | 2017-12-12 | Sensor system with a light field camera for determining the characteristic of a scene |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017129663.8A DE102017129663A1 (en) | 2017-12-12 | 2017-12-12 | Sensor system with a light field camera for determining the characteristic of a scene |
Publications (1)
Publication Number | Publication Date |
---|---|
DE102017129663A1 true DE102017129663A1 (en) | 2019-06-13 |
Family
ID=66629575
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102017129663.8A Withdrawn DE102017129663A1 (en) | 2017-12-12 | 2017-12-12 | Sensor system with a light field camera for determining the characteristic of a scene |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102017129663A1 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7984590B2 (en) | 2003-09-17 | 2011-07-26 | Thk Co., Ltd. | Automatic door apparatus |
EP2453252A1 (en) | 2010-11-15 | 2012-05-16 | Cedes AG | Energy efficient 3D sensor |
US20140342331A1 (en) * | 2013-05-17 | 2014-11-20 | Zoll Medical Corporation | Cameras for emergency rescue |
-
2017
- 2017-12-12 DE DE102017129663.8A patent/DE102017129663A1/en not_active Withdrawn
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7984590B2 (en) | 2003-09-17 | 2011-07-26 | Thk Co., Ltd. | Automatic door apparatus |
EP2453252A1 (en) | 2010-11-15 | 2012-05-16 | Cedes AG | Energy efficient 3D sensor |
US20140342331A1 (en) * | 2013-05-17 | 2014-11-20 | Zoll Medical Corporation | Cameras for emergency rescue |
Non-Patent Citations (1)
Title |
---|
Plenoptische Kamera. Aus: Wikipedia, der freien Enzyklopädie; Bearbeitungsstand: 02.12.2017;URL: https://de.wikipedia.org/w/index.php?title=Plenoptische_Kamera&oldid=171608810 [abgerufen am 22.11.2018] * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3147823B1 (en) | Device and method for direct optical recording of documents and/or living areas of skin without imaging optical elements | |
DE112017001112T5 (en) | Method and apparatus for an actively pulsed 4D camera for image acquisition and analysis | |
EP3033251A1 (en) | Sensor array for detecting control gestures on vehicles | |
EP2915922B1 (en) | Method for operating a vehicle barrier | |
EP2306425B1 (en) | Device and method for detecting wheel axles | |
WO2017041915A1 (en) | Sensor system of a sensor device of a motor vehicle | |
DE102007022523A1 (en) | motor vehicle | |
DE102019112338A1 (en) | 3D sensor system, can be operated in different operating modes depending on the operating state of a closure body | |
EP3696537A1 (en) | Device and method for detecting damage to a moving vehicle | |
EP3724676A1 (en) | Sensor system for three-dimensionally detecting a scene with different photon accumulations | |
DE102017129663A1 (en) | Sensor system with a light field camera for determining the characteristic of a scene | |
EP3724601B1 (en) | Distance determination based on different depth of field areas with different focus settings of an objective lens | |
EP3513248B1 (en) | Sensing device for capturing a facial image of a person | |
Hao et al. | A near-infrared imaging method for capturing the interior of a vehicle through windshield | |
DE102017129654A1 (en) | 3D scene capture based on light transit times and a characteristic feature of detected electromagnetic waves | |
DE102017129641A1 (en) | 3D sensor system with a free-form optics | |
WO2020229190A1 (en) | Identifying an object on the basis of recognising part of the object and on the basis of description data of a reference object | |
DE102014205282A1 (en) | Device for opening or closing an opening of a vehicle | |
DE102017129639A1 (en) | 3D sensor system with scene lighting dependent on a solid angle | |
Morris et al. | Sensing for hov/hot lanes enforcement | |
DE102010046219A1 (en) | Method and device for detecting and / or assessing three-dimensional elevated structures on a surface of a document | |
DE102015115096A1 (en) | Sensor arrangement for the optical detection of operating gestures on vehicles | |
DE102019112340A1 (en) | TOF sensor system with a lighting device with an array of individual light sources | |
Pananikolopoulos | Sensing for HOV/HOT lanes enforcement | |
DE102020200569A1 (en) | Device for biometric identification with the aid of fingerprints and / or hand characteristics and methods for biometric identification with the aid of these characteristics |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |