DE102017129663A1 - Sensor system with a light field camera for determining the characteristic of a scene - Google Patents

Sensor system with a light field camera for determining the characteristic of a scene Download PDF

Info

Publication number
DE102017129663A1
DE102017129663A1 DE102017129663.8A DE102017129663A DE102017129663A1 DE 102017129663 A1 DE102017129663 A1 DE 102017129663A1 DE 102017129663 A DE102017129663 A DE 102017129663A DE 102017129663 A1 DE102017129663 A1 DE 102017129663A1
Authority
DE
Germany
Prior art keywords
sensor
scene
sensor system
characteristic
illumination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
DE102017129663.8A
Other languages
German (de)
Inventor
Urs Hunziker
Heinz Macher
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bircher Reglomat AG
Original Assignee
Bircher Reglomat AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bircher Reglomat AG filed Critical Bircher Reglomat AG
Priority to DE102017129663.8A priority Critical patent/DE102017129663A1/en
Publication of DE102017129663A1 publication Critical patent/DE102017129663A1/en
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C11/00Arrangements, systems or apparatus for checking, e.g. the occurrence of a condition, not provided for elsewhere

Abstract

Es wird beschrieben ein Sensorsystem (100) sowie ein Verfahren zum Bestimmen der Charakteristik einer Szene (190). Das Sensorsystem (100) weist auf ein auf dem Prinzip einer Lichtfeldkamera basierender Sensor (120) zum dreidimensionalen optischen Erfassen der Szene (190); und eine dem optischen Sensor nachgeschaltete Datenverarbeitungseinrichtung (140) zum Auswerten der optisch erfasste Szene (190). Die Datenverarbeitungseinrichtung (140) ist derart konfiguriert ist, dass von einem in der Szene (190) enthaltenen Objekt (195) in Echtzeit Bewegungsprofile bestimmbar sind. Ferner werden beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor für ein Steuern einer Bedeckungscharakteristik einer von einem Objekt (195) zu passierenden Öffnung (184) durch zumindest einen Verschließkörper (186) und/oder für ein Erfassen und/oder Steuern von Verkehrsströmen von Objekten (195).A sensor system (100) and a method for determining the characteristic of a scene (190) are described. The sensor system (100) has a sensor (120) based on the principle of a light field camera for the three-dimensional optical detection of the scene (190); and a data processing device (140) connected downstream of the optical sensor for evaluating the optically detected scene (190). The data processing device (140) is configured in such a way that motion profiles can be determined in real time by an object (195) contained in the scene (190). The invention also relates to a use of a sensor system with a sensor based on the principle of a light field camera for controlling a coverage characteristic of an opening (184) to be passed by an object (195) through at least one closing body (186) and / or for detecting and / or Controlling traffic flows of objects (195).

Description

Technisches GebietTechnical area

Die vorliegende Erfindung betrifft ein Sensorsystem sowie ein Verfahren zum dreidimensionalen Erfassen einer Szene. Ferner betrifft die vorliegende Erfindung mehrere Verwendungen eines solchen Sensorsystems.The present invention relates to a sensor system and a method for three-dimensional detection of a scene. Furthermore, the present invention relates to several uses of such a sensor system.

Hintergrund der ErfindungBackground of the invention

Zum Öffnen und/oder Verschließen von Öffnungen werden häufig mittels Aktuatoren betriebene Verschließkörper verwendet, welche für Bedienpersonen die Handhabung des betreffenden Verschließkörpers erleichtern oder ohne jede Bedienaktion vollautomatisch betrieben werden, wenn beispielsweise ein die Öffnung zu passierendes Objekt in der Bereich der Öffnung gelangt. Eine solche Öffnung kann beispielsweise ein Durchgang in einem Gebäude sein. Ein Verschließkörper kann beispielsweise eine Tür oder ein Tor sein.For opening and / or closing of openings operated by actuators closing body are often used, which facilitate the handling of the respective closure body for operators or operated fully automatically without any operation, for example, when an object to be passed the opening passes into the region of the opening. Such an opening may, for example, be a passageway in a building. A closure body may be, for example, a door or a gate.

Um eine hohe Betriebssicherheit von automatisch zu öffnenden und zu schließenden Verschließkörpern zu erreichen, ist es bekannt, den Bereich vor oder innerhalb einer mit einem Verschließkörper bedeckbaren Öffnung mittels eines optischen Sensorsystems zu erfassen. Damit kann zum einen sichergestellt werden, dass beim Verschießen der Öffnung nicht versehentlich ein Objekt, beispielsweise eine Person, von dem Verschließkörper eingeklemmt wird. In order to achieve a high level of operational reliability of automatically closing and closing closing bodies, it is known to detect the area in front of or within an opening which can be covered by a closing body by means of an optical sensor system. This can on the one hand be ensured that when shooting the opening accidentally an object, such as a person, is clamped by the closing body.

Außerdem kann bei manchen Applikationen ein solches Sensorsystem ein automatisches Öffnen des Verschließkörpers bzw. der Öffnung veranlassen. In diesem Zusammenhang ist es auch bekannt, dass ein solches Sensorsystem bzw. eine einem solchen Sensorsystem nachgeschaltete Datenverarbeitungseinrichtung mittels bekannter Methoden der Bildverarbeitung eine Objekterkennung durchführt und die Öffnung nur dann freigibt, wenn sich ein zum Passieren der Öffnungen befugtes Objekt dem Bereich der (noch verschlossenen Öffnung) nähert. Eine solche Objekterkennung kann beispielsweise eine Gesichtserkennung sein.In addition, in some applications such a sensor system may cause automatic opening of the closure body or opening. In this context, it is also known that such a sensor system or a data processing device connected downstream of such a sensor system performs object recognition by means of known methods of image processing and only releases the opening when an object authorized to pass through the openings is in the area of the (still closed Opening). Such an object recognition can be for example a face recognition.

Eine besonders hohe Betriebssicherheit kann durch die Verwendung von Sensorsystemen erreicht werden, welche eine dreidimensionale (3D) Überwachung des (Eingangs-)Bereichs einer mittels eines Verschließkörpers verschließbaren Öffnung vornehmen. So beschreibt zum Beispiel US 7,984,590 einen Stereometriesensor, der durch eine unabhängige Steuerung und Motorisierung von horizontalen Türflügeln eine Schiebetüre derart öffnet, dass sie den Konturen des zu passierenden Objektes angepasst ist.A particularly high degree of operational reliability can be achieved by the use of sensor systems which carry out a three-dimensional (3D) monitoring of the (input) region of an opening which can be closed by means of a closing body. So for example describes US 7,984,590 a stereometry sensor, which opens a sliding door by independent control and motorization of horizontal door leaves so that it is adapted to the contours of the object to be passed.

Aus EP 2 453 252 B1 ist für den Anwendungsbereich der Überwachung von automatisch zu öffnenden Türen und/oder Toren ein 3D-Sensorsystem bekannt, welches auf dem Prinzip der Laufzeitmessung von Lichtstrahlen beruht, welche von Beleuchtungsquellen ausgesandt und nach einer zumindest teilweisen Reflexion bzw. 180° Rückstreuung von einem Lichtempfänger detektiert werden. Solche Sensorsysteme werden allgemein als „Time-of-Flight“ (TOF) Sensorsysteme bezeichnet. TOF Sensorsysteme haben jedoch den Nachteil, dass sie in Bezug auf die Auswertung der Empfangsdaten relativ aufwändig sind und einen relativ hohen Energieverbrauch haben. Dies gilt insbesondere dann, wenn Fremdlichtquellen in den überwachten Bereich einstrahlen (beispielsweise Sonnenlicht), so dass die Intensität des Beleuchtungslichts entsprechend hoch sein muss.Out EP 2 453 252 B1 For the field of application of the monitoring of automatically opening doors and / or gates a 3D sensor system is known, which is based on the principle of transit time measurement of light rays emitted by illumination sources and detected by at least partial reflection or 180 ° backscatter from a light receiver become. Such sensor systems are commonly referred to as "time-of-flight" (TOF) sensor systems. However, TOF sensor systems have the disadvantage that they are relatively complex in terms of the evaluation of the received data and have a relatively high energy consumption. This is especially true when extraneous light sources radiate into the monitored area (for example, sunlight), so that the intensity of the illumination light must be correspondingly high.

Der vorliegenden Erfindung liegt die Aufgabe zugrunde eine aus energetischer Sicht effiziente und trotzdem zuverlässige Überwachung von Durchgängen zu ermöglichen, wobei unterschieden werden kann zwischen (a) Objekten, welche den betreffenden Durchgang passieren (dürfen) und (b) Objekten, welche entweder nicht im Begriff sind in den Bereich des Durchgangsbereich einzutreten und/oder den Durchgang nicht passieren dürfen.The present invention has for its object to enable an energetically efficient and yet reliable monitoring of passages, it being possible to distinguish between (a) objects which pass through the passage in question and (b) objects which are either not in the concept should enter the area of the passage area and / or not pass the passage.

Zusammenfassung der ErfindungSummary of the invention

Diese Aufgabe wird gelöst durch die Gegenstände der unabhängigen Patentansprüche. Vorteilhafte Ausführungsformen der vorliegenden Erfindung sind in den abhängigen Ansprüchen beschrieben.This object is solved by the subject matters of the independent claims. Advantageous embodiments of the present invention are described in the dependent claims.

Gemäß einem ersten Aspekt der Erfindung wird beschrieben ein Sensorsystem zum Bestimmen der Charakteristik einer Szene. Das beschriebene Sensorsystem weist auf (a) einen auf dem Prinzip einer Lichtfeldkamera basierenden Sensor zum dreidimensionalen optischen Erfassen der Szene; und (b) eine dem optischen Sensor nachgeschaltete Datenverarbeitungseinrichtung zum Auswerten der optisch erfasste Szene. Die Datenverarbeitungseinrichtung ist derart konfiguriert, dass von einem in der Szene enthaltenen Objekt in Echtzeit Bewegungsprofile bestimmbar sind.According to a first aspect of the invention, a sensor system for determining the characteristic of a scene is described. The described sensor system comprises (a) a sensor based on the principle of a light field camera for the three-dimensional optical detection of the scene; and (b) a data processing device connected downstream of the optical sensor for evaluating the optically detected scene. The data processing device is configured such that motion profiles can be determined in real time from an object contained in the scene.

Dem beschriebenen Sensorsystem liegt die Erkenntnis zugrunde, dass durch die Verwendung eines dreidimensionalen (3D) Sensorsystems, welches eine Lichtfeldkamera oder zumindest einen nach dem Prinzip einer Lichtfeldkamera arbeitenden Sensor aufweist, auf energetisch effiziente Weise bewegte Objekte erkannt und deren Bewegungsprofil in Echtzeit (mittels der dem optischen Sensor nachgeschalteten Datenverarbeitungseinrichtung) bestimmt werden können. Aus einer Kenntnis des Bewegungsprofils eines Objektes kann dann beispielsweise zuverlässig unterschieden werden, ob sich das Objekt in Richtung einer von einem Verschließkörper verschleißbaren Öffnung hinbewegt oder sich anderweitig in der von dem Sensor überwachten Szene bewegt. So kann beispielsweise bei einer automatischen Garagenöffnung verhindert werden, dass in einem Querverkehr, welcher den Eingangsbereich der Garagenöffnung passiert, Fahrzeuge fälschlicherweise als Objekte erkannt werden, welche in die betreffende Garage einfahren wollen.The sensor system described is based on the recognition that by the use of a three-dimensional (3D) sensor system, which has a light field camera or at least one working on the principle of a light field camera sensor, detected in an energetically efficient manner moving objects and their motion profile in real time (by means of the optical sensor downstream data processing device) can be determined. From a knowledge of the motion profile of an object can then be reliably distinguished, for example, whether the object in the direction of an opening wearable by a closure body or otherwise moved in the scene monitored by the sensor. For example, in an automatic garage opening can be prevented that in a cross traffic, which passes through the entrance area of the garage opening, vehicles are erroneously recognized as objects that want to enter the garage in question.

Außerdem kann beispielsweise erkannt werden, wenn ich ein Objekt, beispielsweise eine Person oder lediglich Gliedmaßen einer Person, in dem Verschlussbereich einer von einem Verschließkörper verschließbaren aber gerade geöffneten Öffnung befindet. Dann kann nämlich ein automatisches Verschießen der Öffnung (durch den Verschließkörper) verhindert und dadurch eine Verletzung der Person oder eine Aktivierung eines Notstopps verhindert werden. Ein Verschließkörper kann zu einem gegenständlichen Verschließen einer Öffnung verwendet werden und beispielsweise mittels einer Tür, einem Tor, einer Schranke, etc. realisiert sein. Ein Verschließkörper kann eine Öffnung oder eine Passage jedoch auch in nicht gegenständlicher Weise durch eine geeignete Signalisierung an „folgsame“ Objekte verschließen. Ein solcher Verschließkörper kann beispielsweise eine Ampel sein.In addition, it can be detected, for example, if I am an object, for example, a person or only limbs of a person, in the closure region of a closable by a closure but just opened opening. Then, namely, an automatic closing of the opening (by the closing body) can be prevented and thereby injury to the person or activation of an emergency stop can be prevented. A closing body can be used for a concrete closure of an opening and be realized for example by means of a door, a gate, a barrier, etc. However, a closing body can close off an opening or a passage in a non-representational manner by means of suitable signaling on "obedient" objects. Such a closing body can be, for example, a traffic light.

In diesem Dokument kann unter dem Begriff „Lichtfeldkamera“ eine sog. plenoptische Kamera verstanden werden, welche neben den üblichen zwei Bilddimensionen eine zusätzliche Dimension, nämlich die Richtung einfallender Lichtstrahlen, erfasst. Durch diese zusätzliche Dimension enthalten plenoptische Aufnahmen Informationen über die Bildtiefe. Ein besonderer Vorteil plenoptischer Kameras liegt in der theoretisch unendlichen Schärfentiefe und der Möglichkeit der Refokussierung, also der nachträglichen Verschiebung der Schärfeebene im Objektraum (Fokusvariation). Durch die zusätzliche Tiefeninformation wird bei dem beschriebenen Sensorsystem eine plenoptische Kamera als 3D-Kamera verwendet. Die Richtung der einfallenden Lichtstrahlen kann beispielsweise durch Blenden selektiert oder, energetisch deutlich effizienter, durch geeignete Linsensysteme vorgegeben sein. Falls es sich bei dem Lichtempfänger des Sensors um ein Sensorarray mit einer Vielzahl von (Halbleiter) Lichtempfängern handelt, dann kann mittels eines entsprechend angepassten Arrays aus Mikrolinsen vor dem Sensorarray auf die Richtung der einfallenden Lichtstrahlen geschlossen und daraus die Tiefeninformation abgeleitet werden. In diesem Dokument wird die Tiefeninformation als z-Information bezeichnet bzw. einer z-Richtung zugeordnet. Die beiden dazu senkrechten Richtungen (in der Bildebene eines zweidimensionalen Bildes) werden als x-Richtung bzw. als y-Richtung bezeichnet.In this document, the term "light field camera" can be understood as meaning a plenoptic camera which, in addition to the usual two image dimensions, detects an additional dimension, namely the direction of incident light rays. Due to this additional dimension, plenoptic images contain information about the image depth. A particular advantage of plenoptic cameras lies in the theoretically infinite depth of field and the possibility of refocusing, ie the subsequent shift of the focal plane in the object space (focus variation). Due to the additional depth information, a plenoptic camera is used as a 3D camera in the described sensor system. The direction of the incident light beams can be selected, for example, by diaphragms or, energetically much more efficiently, given by suitable lens systems. If the light receiver of the sensor is a sensor array with a multiplicity of (semiconductor) light receivers, then the direction of the incident light beams can be closed by means of a suitably adapted array of microlenses in front of the sensor array and the depth information derived therefrom. In this document, the depth information is referred to as z-information or assigned to a z-direction. The two perpendicular directions (in the image plane of a two-dimensional image) are called x-direction and y-direction, respectively.

Die Verwendung einer Lichtfeldkamera für das erfindungsgemäße 3D Sensorsystem hat im Gegensatz zu bekannten stereometrischen bzw. auf dem Prinzip der Triangulation beruhenden Sensoren, welche eine räumliche Mindestdistanz zwischen verschiedenen ausgewerteten Strahlengängen haben müssen, den Vorteil, dass das Sensorsystem in einer kompakten Bauweise realisiert werden kann. Damit ergeben sich für das erfindungsgemäße Sensorsystem eine Vielzahl von Anwendungsmöglichkeiten, welche nicht lediglich auf eine Überwachung von Eingangsbereichen beschränkt sind. Ein weiterer Vorteil, welcher sich aus der Verwendung einer Lichtfeldkamera ergibt, besteht darin, dass das erfindungsgemäße Sensorsystem vergleichsweise unempfindlich gegenüber Fremdlicht ist. Dies liegt daran, dass durch die Lichtfeldkamera eine Richtungsselektion der für die dreidimensionale Erfassung der Szene verwendeten Lichtstrahlen verwendet wird.The use of a light field camera for the 3D sensor system according to the invention, in contrast to known stereometric or based on the principle of triangulation sensors, which must have a minimum spatial distance between different evaluated beam paths, the advantage that the sensor system can be implemented in a compact design. This results in a variety of applications for the sensor system according to the invention, which are not limited to a monitoring of input areas. A further advantage which results from the use of a light field camera is that the sensor system according to the invention is comparatively insensitive to extraneous light. This is because the directional selection of the light beams used for the three-dimensional detection of the scene is used by the light field camera.

Insbesondere gegenüber einer 3D Objekterfassung basierend auf einer vordefiniert strukturierten Beleuchtung, welche durch eine 3D Oberflächenkontur eines zu erfassenden Objekts räumlich verzerrt wird, kann das erfindungsgemäße Sensorsystem zumindest bei guten Lichtverhältnissen ohne eine zusätzliche Beleuchtung auskommen. Selbstverständlich kann das beschriebene Sensorsystem jedoch auch eine geeignete Beleuchtungsvorrichtung aufweisen, sodass auch bei schlechten Lichtverhältnissen eine dreidimensionale Erfassung der Szene möglich ist. Dabei kann jedoch bei guten Lichtverhältnissen auf eine Aktivierung der Beleuchtung verzichtet werden, so dass die Beleuchtungsvorrichtung lediglich dann mit (elektrischer) Energie versorgt werden muss, wenn das Sensorsystem bei schlechten Lichtverhältnissen betrieben wird.In particular, compared to a 3D object detection based on a predefined structured illumination, which is spatially distorted by a 3D surface contour of an object to be detected, the sensor system according to the invention can get along without additional illumination, at least in good light conditions. Of course, however, the sensor system described may also have a suitable lighting device, so that a three-dimensional detection of the scene is possible even in low light conditions. In this case, however, can be dispensed with activation of the lighting in good lighting conditions, so that the lighting device only has to be supplied with (electrical) energy when the sensor system is operated in low light conditions.

Unter dem Begriff „Szene“ kann insbesondere derjenige räumliche Bereich verstanden werden, welcher von dem Sensorsystem optisch erfasst wird. In der Szene befindliche Objekte werden durch eine geeignete Bildauswertung erkannt. Dazu kann auf bekannte Methoden zur Bildauswertung und/oder Bildanalyse zurückgegriffen werden.The term "scene" may in particular be understood to mean that spatial area which is optically detected by the sensor system. Objects in the scene are recognized by a suitable image analysis. For this purpose, known methods for image analysis and / or image analysis can be used.

Unter dem Begriff „Charakteristik einer Szene“ kann die Gesamtheit aller räumlichen Strukturen verstanden werden, welche von dem Sensor erfasst werden. Dabei können von der Datenverarbeitungseinrichtung mittels einer Bildverarbeitung und/oder Bilderkennung manche Strukturen als relevant und andere Strukturen als weniger oder sogar irrelevant erkannt werden.The term "characteristic of a scene" can be understood as the entirety of all spatial structures which are detected by the sensor. In this case, some structures can be recognized as being relevant and other structures as being less or even irrelevant by the data processing device by means of image processing and / or image recognition.

Unter dem Begriff „Bewegungsprofil“ können alle Bewegungsdaten verstanden werden, welche eine Veränderlichkeit des Objekts entlang zumindest einer Raumkoordinate beschreiben. Die Bewegungsdaten können einfach den Betrag der Geschwindigkeit und/oder den Betrag der Beschleunigung des Objekts beschreiben. Alternativ oder in Kombination können die Bewegungsdaten auch die entsprechende Richtung und insbesondere den Vektor der Größen Geschwindigkeit und/oder Beschleunigung beschreiben.The term "motion profile" can be understood to mean all motion data which describe a variability of the object along at least one spatial coordinate. The transaction data can easily change the amount of Describe speed and / or the amount of acceleration of the object. Alternatively or in combination, the movement data can also describe the corresponding direction and in particular the vector of the variables speed and / or acceleration.

Anders ausgedrückt können die Bewegungsdaten alle Ortsänderungen des Objekts beschreiben. Dies kann für alle Objektbewegungen mit einer Geschwindigkeit ungleich Null und/oder einer Geschwindigkeit gleich Null gelten.In other words, the movement data can describe all the location changes of the object. This can apply to all object movements with a nonzero speed and / or zero speed.

Da mit dem beschriebenen Sensorsystem Bewegungsdaten ermittelt werden, wird eine Szene bevorzugt zumindest zweimal mit einem bestimmten zeitlichen Abstand erfasst. Aus der Veränderung der räumlichen Position eines erkannten Objekts kann durch die Beziehung „Geschwindigkeit = Weg pro Zeit“ die Geschwindigkeit des Objekts ermittelt werden. Aufgrund der „Dreidimensionalität“ der Szenenerfassung kann auch die Bewegungsrichtung bzw. der Bewegungsvektor im Raum ermittelt werden. Es wird darauf hingewiesen, dass eine Bewegung im Falle einer im Vergleich zu der Geschwindigkeit langen Belichtungsdauer auch anhand der Bewegungsunschärfe des Objekts ermittelt werden könnte.Since motion data is determined with the described sensor system, a scene is preferably detected at least twice with a specific time interval. From the change in the spatial position of a detected object, the velocity of the object can be determined by the relationship "speed = distance per time". Due to the "three-dimensionality" of the scene detection, the direction of motion or the motion vector in space can also be determined. It should be noted that a movement in the case of a long compared to the speed exposure time could also be determined based on the motion blur of the object.

Die Begriffe „optisch“ und/oder „Licht“ können sich auf elektromagnetische Wellen beziehen, die eine bestimmte Wellenlänge bzw. Frequenz oder ein bestimmtes Spektrum von Wellenlängen bzw. Frequenzen haben. Insbesondere können die zum Einsatz kommenden elektromagnetischen Wellen dem für das menschliche Auge sichtbaren Spektralbereich zugeordnet werden. Alternativ oder in Kombination können auch elektromagnetische Wellen verwendet werden, die dem ultravioletten (UV) oder dem infraroten (IR) Spektralbereich zugeordnet sind. Der IR Spektralbereich kann sich bis in den langwelligen IR Bereich mit Wellenlängen zwischen 3,5 µm bis 15 µm erstrecken, welche mittels einer plenoptischen Wärmebildkamera erfasst werden können.The terms "optical" and / or "light" may refer to electromagnetic waves having a particular wavelength or frequency or a particular spectrum of wavelengths or frequencies. In particular, the electromagnetic waves used can be assigned to the spectral range visible to the human eye. Alternatively or in combination, electromagnetic waves associated with the ultraviolet (UV) or infrared (IR) spectral regions may also be used. The IR spectral range can extend into the long-wave IR range with wavelengths between 3.5 μm to 15 μm, which can be detected by means of a plenoptic thermal imaging camera.

Gemäß einem Ausführungsbeispiel der Erfindung weist das Sensorsystem ferner eine Halterung auf, welche mit dem Sensor mechanisch gekoppelt ist, wobei die Halterung derart ausgebildet ist, dass das Sensorsystem an einer in Bezug auf die zu erfassende Szene stationären Haltestruktur anbringbar ist.According to one exemplary embodiment of the invention, the sensor system further has a holder which is mechanically coupled to the sensor, wherein the holder is designed such that the sensor system can be attached to a stationary holding structure with respect to the scene to be detected.

Anschaulich ausgedrückt sorgt die Halterung dafür, dass das beschriebene Sensorsystem ein stationäres System sein kann, welches einen bestimmten räumlich festen Erfassungsbereich hat und damit immer die gleiche Szene überwacht. Durch einen Vergleich von verschiedenen zeitlich voneinander beabstandeten Erfassungen der von der Orientierung des Sensorsystems abhängigen Szene können im Rahmen einer Bildauswertung räumlich stationäre Objekte, die in der Szene vorhanden sind, erkannt und bei einer weiteren Bildauswertung in Hinblick auf Bewegungsprofile ausgeblendet werden. Dadurch kann Rechenleistung eingespart werden und die energetische Effizienz des beschriebenen Sensorsystems verbessert werden.In terms of clarity, the holder ensures that the described sensor system can be a stationary system which has a certain spatially fixed detection range and thus always monitors the same scene. By comparing different temporally spaced detections of the dependent of the orientation of the sensor system scene spatially stationary objects that are present in the scene can be detected in an image analysis and hidden in a further image analysis with respect to movement profiles. As a result, computing power can be saved and the energy efficiency of the described sensor system can be improved.

Die stationäre Haltestruktur kann direkt oder indirekt mechanisch gekoppelt sein mit einer Vorrichtung zum Steuern einer Bedeckungscharakteristik einer von dem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper. Bevorzugt weist diese Vorrichtung neben einer geeigneten Führung bzw. Lagerung des Verschließkörpers einen Aktuator zum Bewegen des Verschließkörpers auf, insbesondere zum Bewegen des Verschließkörpers zwischen einer geschlossenen Position und einer geöffneten Position (und umgekehrt) auf.The stationary support structure may be directly or indirectly mechanically coupled to a device for controlling a coverage characteristic of an opening to be passed through the object by at least one closure body. In addition to a suitable guidance or mounting of the closing body, this device preferably has an actuator for moving the closing body, in particular for moving the closing body between a closed position and an open position (and vice versa).

Im Bereich der Gebäudesicherheit kann die Öffnung ein Eingang, beispielsweise für eine Person oder ein Fahrzeug sein, der Verschließkörper kann eine Tür, beispielsweise eine Haustür bzw. ein Garagentor sein. Die stationäre Haltestruktur kann beispielsweise die stationäre Rahmenstruktur eines Eingangs sein, beispielsweise der Rahmen einer Tür.In the field of building security, the opening may be an entrance, for example for a person or a vehicle, the closure body may be a door, for example a front door or a garage door. The stationary support structure may be, for example, the stationary frame structure of an entrance, for example the frame of a door.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Datenverarbeitungseinrichtung ferner derart konfiguriert, dass eine Bedeckungscharakteristik einer von dem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper steuerbar ist. Dadurch kann die Öffnung, welche beispielsweise ein Eingang (bzw. ein Ausgang) eines Gebäudes ist, auf energetisch günstige Weise automatisch überwacht werden und durch eine geeignete Ansteuerung eines Aktuators kann der Verschließkörper auf die gewünschte Weise zwischen einer geöffneten Position und einer geschlossenen Position bewegt werden. Dazu kann die Datenverarbeitungseinrichtung des beschriebenen Sensorsystems mit der Steuerung eines bekannten Steuersystems für einen Verschließkörper gekoppelt werden.According to a further embodiment of the invention, the data processing device is further configured such that a coverage characteristic of an opening to be passed from the object is controllable by at least one closure body. Thereby, the opening, which is for example an entrance (or an exit) of a building, can be automatically monitored in an energetically favorable manner and by a suitable actuation of an actuator, the closing body can be moved in the desired manner between an open position and a closed position , For this purpose, the data processing device of the described sensor system can be coupled with the control of a known control system for a closing body.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor einen Lichtdetektor mit einer Mehrzahl von Pixeln auf. Ferner ist der Sensor konfiguriert, die Szene basierend auf zumindest einem der folgenden Merkmale von detektierter optischer Strahlung zu erfassen: (a) Intensität, welche auf zumindest einem Pixel auftrifft, (b) Intensitätsunterschiede zwischen verschiedenen Pixeln, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, und (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen. Durch eine anwendungsspezifische Verwendung von einem dieser Merkmale oder durch eine geeignete Kombination von zumindest zwei dieser Merkmale können die zu erkennenden Objekte mit besonders hoher Genauigkeit und Zuverlässigkeit erkannt werden.According to a further exemplary embodiment of the invention, the sensor has a light detector with a plurality of pixels. Further, the sensor is configured to detect the scene based on at least one of the following characteristics of detected optical radiation: (a) intensity incident on at least one pixel, (b) intensity differences between different pixels, (c) wavelength, (d) spectral intensity distribution, (e) polarization direction, and (f) intensity distribution for different polarization directions. By an application-specific use of one of these features or by a suitable combination of at least two of these features, the objects to be recognized can be detected with particularly high accuracy and reliability.

Die Intensität der optischen Strahlung, welche von einem Pixel empfangen bzw. detektiert wird, spiegelt sich üblicherweise in Form von Grauwerten wieder, welche an die Datenverarbeitungseinrichtung weitergeleitet und dort zu einem vollständigen Bild der erfassten Szene zusammengesetzt werden. Dort kann auch ein Vergleich der Grauwerte zwischen verschiedenen Pixeln stattfinden, welche unterschiedlichen räumlichen Teilbereichen der Szene zugeordnet sind. Die Wellenlänge, Frequenz bzw. Farbe der detektieren optischen Strahlung kann mittels geeigneter Filter ermittelt werden. Dabei kann jeweils ein Filter bzw. ein Filterelement einem Pixel eines Sensorarrays bzw. des Lichtempfängers des Sensors zugeordnet sein. Spektrale Intensitätsverteilungen könne durch eine geeignete Kombination von solchen Filtern ermittelt werden. Dabei sind auch kontinuierlich veränderbare Filter möglich. Die Polarisationsrichtung der detektierten optischen Strahlung kann auf bekannte Weise durch die Verwendung von Polarisationsfiltern ermittelt bzw. die entsprechende Polarisationskomponente der optischen Strahlung herausgefiltert werden. The intensity of the optical radiation which is received or detected by a pixel is usually reflected in the form of gray values, which are forwarded to the data processing device and combined there to form a complete image of the detected scene. There can also take place a comparison of the gray values between different pixels, which are assigned to different spatial subregions of the scene. The wavelength, frequency or color of the detected optical radiation can be determined by means of suitable filters. In each case, a filter or a filter element can be assigned to a pixel of a sensor array or the light receiver of the sensor. Spectral intensity distributions can be determined by a suitable combination of such filters. In this case, continuously variable filters are possible. The polarization direction of the detected optical radiation can be determined in a known manner by the use of polarization filters or the corresponding polarization component of the optical radiation can be filtered out.

Intensitätsunterschiede und auch unterschiedliche Farben auf verschiedenen Pixeln stellen einen Kontrast dar, welcher in bekannter Weise für eine Auswertung der erfassten Szene und insbesondere für eine Objekterkennung von großen Vorteil sein kann.Differences in intensity and also different colors on different pixels represent a contrast, which in a known manner can be of great advantage for an evaluation of the detected scene and in particular for object recognition.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor eine räumliche Auflösung auf, die in unterschiedlichen Teilbereichen einer lichtsensitiven Oberfläche des Sensors unterschiedlich ist.According to a further exemplary embodiment of the invention, the sensor has a spatial resolution that is different in different partial regions of a light-sensitive surface of the sensor.

Eine räumlich inhomogene räumliche Auflösung kann zu einer weiteren energetischen Optimierung des beschriebenen Sensorsystems führen, weil sowohl der Betrieb des Sensors (einschließlich der Auslesung von erfassten Sensordaten) als auch eine mittels der Datenverarbeitungseinrichtung durchgeführte Bildauswertung bei einer geringen Auflösung weniger Energie benötigt. Selbstverständlich sollten die Teilbereiche mit einer höheren Auflösung bevorzugt denjenigen Ausschnitten der Szene zugeordnet sein, in denen sich das Objekt befindet oder in denen das Objekt mit einer erhöhten Wahrscheinlichkeit vermutet wird. Anschaulich ausgedrückt „schaut“ der als Lichtfeldkamera ausgebildete Sensor dort „genauer“ hin, wo das Objekt vermutet wird. Im Falle einer Verschlusssteuerung eines verschließbaren Durchgangs kann innerhalb einer sog. Absicherungszone die Szene mit einer höheren Auflösung erfasst werden als in anderen Zonen bzw. Ausschnitten der Szene.A spatially inhomogeneous spatial resolution can lead to a further energetic optimization of the sensor system described, because both the operation of the sensor (including the reading of detected sensor data) and an image analysis performed by the data processing device requires less energy at a low resolution. Of course, the subareas with a higher resolution should preferably be assigned to those sections of the scene in which the object is located or in which the object is suspected with an increased probability. Expressed clearly, the sensor designed as a light field camera "looks" more precisely where the object is suspected. In the case of a closure control of a closable passage, the scene can be detected with a higher resolution within a so-called security zone than in other zones or sections of the scene.

Eine unterschiedliche räumliche Auflösung des Sensors bzw. seiner in Pixel aufgeteilten lichtsensitiven Oberfläche kann statisch bzw. fest vorgegeben sein. Dazu kann der Sensor aus zwei unterschiedlichen einzelnen Sensorchips mit einer zueinander unterschiedlichen Auflösung bestehen. Eine unterschiedliche Auflösung kann beispielsweise durch ein sogenanntes Binning bzw. Zusammenfassen von voneinander unmittelbar benachbarten Pixeln der lichtsensitiven Oberfläche des Sensors erfolgen.A different spatial resolution of the sensor or its pixel-sensitive light-sensitive surface may be static or fixed. For this purpose, the sensor may consist of two different individual sensor chips with a mutually different resolution. A different resolution can for example be done by a so-called binning or summarizing mutually immediately adjacent pixels of the light-sensitive surface of the sensor.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die räumliche Auflösung des Sensors dynamisch an unterschiedliche Charakteristiken der Szene anpassbar. Dies hat den Vorteil, ein mit einer hohen Auflösung erfasster Bereich nicht immer der gleiche Ausschnitt der Szene sein muss. Insbesondere kann (bei einer nicht allzu schnellen Bewegung des Objekts) der mit einer hohen Auflösung erfasste Ausschnitt der Szene zusammen mit der Bewegung des Objekts „durch die Szene wandern“, so dass das Objekt, welches typischerweise für die Charakteristik der Szene am meisten relevant ist, stets mit der hohen Auflösung und damit besonders genau erfasst wird.According to a further embodiment of the invention, the spatial resolution of the sensor is dynamically adaptable to different characteristics of the scene. This has the advantage that a region captured with a high resolution does not always have to be the same section of the scene. In particular (with not too fast movement of the object) the high-resolution captured portion of the scene can "move through the scene" along with the movement of the object, so that the object which is typically most relevant to the scene's characteristic , always with the high resolution and thus very accurately recorded.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Auflösung des Sensors durch ein Zusammenfassen von benachbarten Pixeln der lichtsensitiven Oberfläche des Sensors anpassbar. Ein solches Zusammenfassen von Pixeln, welches auch als „Binning“ bezeichnet wird, hat den Vorteil, dass es unkompliziert und zudem schnell bzw. dynamisch durchgeführt werden kann. Ein lokales „Binning“ kann zumindest bei einigen bekannten Sensoren ohne besondere elektronische oder apparative Elemente einfach durch eine entsprechende Ansteuerung des Sensors erfolgen, welche Ansteuerung das „Binning“ und damit den Betriebsmodus des Sensors bestimmt.According to another embodiment of the invention, the resolution of the sensor is adaptable by combining adjacent pixels of the light-sensitive surface of the sensor. Such a pooling of pixels, which is also referred to as "binning", has the advantage that it can be carried out uncomplicated and also fast or dynamic. A local "binning" can be done at least in some known sensors without special electronic or apparatus elements simply by a corresponding control of the sensor, which control determines the "binning" and thus the operating mode of the sensor.

Ein weiterer Vorteil des beschriebenen Zusammenfassens von benachbarten Pixeln kann darin gesehen werden, dass bei zwei zusammengefassten Pixeln im Vergleich zu der Energiemenge bzw. der Anzahl an Photonen, welche bei einer vollen Auflösung einem Pixel zugeordnet ist, nun die doppelte Energiemenge bzw. doppelte Anzahl an Photonen für die beiden zusammengefassten Pixel zur Verfügung steht. Damit wird die Lichtsensitivität des beschriebenen Sensorsystems signifikant erhöht und ein unerwünschtes jedoch niemals ganz zu eliminierendes Rauschen wird reduziert, so dass es viele Anwendungen gibt, für die keine eigene Beleuchtung erforderlich ist, weil das zur Verfügung stehende Fremdlicht für ein optisches Erfassen der Szene durch den in seiner Auflösung reduzierten Sensor ausreichend ist.Another advantage of the described summarization of neighboring pixels can be seen in the fact that with two combined pixels compared to the amount of energy or the number of photons, which is assigned to a pixel at a full resolution, twice the amount of energy or double the number Photons for the two combined pixels is available. Thus, the light sensitivity of the described sensor system is significantly increased and unwanted, but never completely eliminate noise is reduced, so that there are many applications that do not require their own lighting, because the available extraneous light for optically detecting the scene by the in its resolution reduced sensor is sufficient.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor eine räumliche Auflösung auf, die entlang unterschiedlicher Koordinatenrichtungen unterschiedlich ist. Diese Ausführungsform hat den Vorteil, dass unterschiedliche Richtungen der Bewegung des Objekts mit unterschiedlicher Genauigkeit erfasst werden. Dies bedeutet, dass das Bewegungsprofil des Objekts entlang unterschiedlicher Richtungen mit einer unterschiedlichen Genauigkeit bestimmt wird. Auch hier hat eine Reduzierung der Genauigkeit den Vorteil, dass sowohl bei dem optischen Erfassen der Szene als auch bei einem nachfolgenden Auswerten Energie zum Betreiben des Sensorsystems eingespart wird.According to a further embodiment of the invention, the sensor has a spatial resolution along different Coordinate directions is different. This embodiment has the advantage that different directions of movement of the object are detected with different accuracy. This means that the motion profile of the object along different directions is determined with a different accuracy. Again, a reduction in accuracy has the advantage that energy is saved for operating the sensor system both in the optical detection of the scene and in a subsequent evaluation.

Falls eine Bewegungsrichtung des Objekts vorgegeben ist oder sich das Objekt mit einer höheren Wahrscheinlichkeit entlang einer bestimmten Richtungskoordinate bewegt, dann kann die Koordinatenrichtung mit der höheren räumlichen Auflösung mit der (zu erwartenden) Bewegungsrichtung zumindest annähernd übereinstimmen. In anderen Fällen kann die Koordinatenrichtung mit der höheren räumlichen Auflösung auch senkrecht zu der (zu erwartenden) Bewegungsrichtung orientiert sein, wenn weniger die Geschwindigkeit des Objekts bzw. die Position des Objekts entlang der entsprechenden vorgegebenen Trajektorie genau bestimmt werden soll sondern insbesondere eventuelle „Wegabweichungen“ von dieser Trajektorie zuverlässig erkannt werden sollen bzw. müssen.If a direction of movement of the object is predetermined or the object moves with a higher probability along a certain direction coordinate, then the coordinate direction with the higher spatial resolution can at least approximately coincide with the (expected) direction of movement. In other cases, the coordinate direction with the higher spatial resolution can also be oriented perpendicular to the (expected) direction of movement, if less the speed of the object or the position of the object along the corresponding predetermined trajectory is to be determined exactly, and in particular any "path deviations" should be reliably detected by this trajectory.

Eine entlang unterschiedlicher Koordinatenrichtungen von dem als Lichtfeldkamera ausgebildeten Sensor kann auf besonders vorteilhafte Weise auch zur Absicherung einer Steuerung für einen Verschließkörper eingesetzt werden. Weil z.B. bei einer eine Türöffnung verschießenden Schiebetüre das größte Risiko eines Einquetschens dann besteht, wenn sich eine Person oder ein Teil einer Person senkrecht zur Verschieberichtung in den Bereich der Schiebetüre bewegt, kann entlang dieser Richtung eine höhere Auflösung für die Objekterkennung verwendet werden. So kann z.B. ein ausgestreckter Finger (gegenüber einem symmetrischen Körper) bevorzugt erkannt werden, der in den Bewegungsbereich der Schließkante der Schiebetüre gesteckt wird. Dabei wird dem Umstand Rechnung getragen, dass besonders geformte (nicht symmetrische) Objekte durch eine asymmetrische Auflösung von dem Sensorsystem besser erkannt werden können. So reicht z.B. ein hoch aufgelöster quasi eindimensionaler Erfassungsbereich („Schutzlinie“) in unmittelbarer Nähe zum Bewegungsbereich des Verschließkörpers aus, um eine unerwünschte Durchdringung durch ein Objekt zu erkennen. Vor (und hinter) dieser Schutzlinie kann mit einer tieferen Auflösung gearbeitet werden, ohne dass eine Einbuße an Betriebssicherheit hingenommen werden müsste.A along different coordinate directions of the trained as a light field camera sensor can be used in a particularly advantageous manner to secure a control for a closing body. Because e.g. In the case of a sliding door which sheds a door opening, the greatest risk of being pinched is when a person or a part of a person moves perpendicularly to the sliding direction in the area of the sliding door, a higher resolution can be used along this direction for the object recognition. Thus, e.g. an outstretched finger (with respect to a symmetrical body) are preferably recognized, which is inserted into the range of movement of the closing edge of the sliding door. This takes into account the fact that particularly shaped (not symmetrical) objects can be better recognized by the sensor system by an asymmetrical resolution. For example, a high-resolution quasi one-dimensional detection area ("protection line") in the immediate vicinity of the movement range of the closure body to detect an unwanted penetration through an object. Before (and behind) this protection line can be worked with a lower resolution, without a loss of operational reliability would have to be accepted.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist der Sensor auf (a) einen ersten Sensorbereich für zumindest ein erstes charakteristisches Merkmal von detektierter optischer Strahlung und (b) einen zweiten Sensorbereich für zumindest ein zweites charakteristisches Merkmal von detektierter optischer Strahlung, wobei das zweite charakteristische Merkmal unterschiedlich ist zu dem ersten charakteristischen Merkmal.According to a further exemplary embodiment of the invention, the sensor has (a) a first sensor region for at least one first characteristic of detected optical radiation and (b) a second sensor region for at least one second characteristic of detected optical radiation, the second characteristic being different is the first characteristic feature.

Die charakteristischen Merkmale können auch im Falle von zwei (räumlich getrennten) Sensorbereichen die vorstehend erwähnten Merkmale (a) Intensität auf zumindest einem Pixel des betreffenden Bereiches, (b) Intensitätsunterschiede zwischen zumindest zwei verschiedenen Pixeln, die bevorzugt unterschiedlichen Sensorbereichen zugeordnet sind, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen, etc. sein.In the case of two (spatially separated) sensor regions, the characteristic features may also include the above-mentioned features: (a) intensity on at least one pixel of the relevant region, (b) intensity differences between at least two different pixels, which are preferably assigned to different sensor regions, (c) Wavelength, (d) spectral intensity distribution, (e) polarization direction, (f) intensity distribution for different polarization directions, etc.

Die beschriebene Ausführungsform mit unterschiedlichen Sensorbereichen kann den Vorteil haben, dass unterschiedliche charakteristische Merkmale der detektierten optischen Strahlung, welche Merkmale, wie vorstehend beschrieben, zu einer energetisch günstigen und/oder besonders genauen und damit insbesondere zu einer zuverlässigen Auswertung der erfassten Szene verwendet werden können, gleichzeitig erfasst bzw. gemessen werden können. Dabei kann jeder Sensorbereich konfiguriert sein, gerade das ihm zugeordnete charakteristische Merkmal besonders genau und zuverlässig und zudem mit einer hohen Effizienz zu detektieren. Eine hohe Effizienz bei der Detektion hat wiederum den Vorteil, dass auch vergleichsweise dunkle Szenen ohne ein (besonders starkes) Beleuchtungslicht ausgewertet können.The embodiment described with different sensor regions may have the advantage that different characteristic features of the detected optical radiation, which features, as described above, can be used for an energetically favorable and / or particularly accurate and thus in particular for a reliable evaluation of the detected scene, can be recorded or measured simultaneously. In this case, each sensor region can be configured to detect its characteristic feature in a particularly accurate and reliable manner and also with a high degree of efficiency. A high efficiency in the detection in turn has the advantage that even comparatively dark scenes can be evaluated without a (particularly strong) illumination light.

Es wird darauf hingewiesen, dass ein Sensor mit zwei Sensorbereichen auch ersetzt werden kann durch oder zwei getrennte Sensoren, die funktional im Sinne der hier beschriebenen Ausführungsform als ein (gemeinsamer) Sensor beschrieben sind bzw. betrachtet werden.It should be noted that a sensor with two sensor areas can also be replaced by or two separate sensors, which are functionally described in the sense of the embodiment described here as a (common) sensor.

Es wird ferner darauf hingewiesen, dass der Sensor auch mehr als zwei, beispielsweise drei oder vier oder sogar noch mehr verschiedene Sensorbereiche haben kann, die jeweils einem charakteristisches Merkmal von detektierter optischer Strahlung zugeordnet sein können. Dadurch können noch mehr spezifische optische Informationen über die erfasste Szene bzw. das darin befindliche Objekt ermittelt und für eine nachfolgende Auswertung mittels der Datenverarbeitungsanlage verwendet werden.It is further pointed out that the sensor can also have more than two, for example three or four or even more different sensor regions, each of which can be assigned to a characteristic feature of detected optical radiation. As a result, even more specific optical information about the detected scene or the object located therein can be determined and used for a subsequent evaluation by means of the data processing system.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist das erste charakteristische Merkmal eine erste spektrale Verteilung und das zweite charakteristische Merkmal ist eine zweite spektrale Verteilung, wobei die zweite spektrale Verteilung unterschiedlich ist zu der ersten spektralen Verteilung. Da unterschiedliche spektrale Verteilungen unterschiedliche optische Eigenschaften der Szene bzw. des darin befindlichen Objekts unterschiedlich genau und/oder unterschiedlich detailliert darstellen, kann durch die Verwendung von unterschiedlichen spektrale Verteilungen die Szene bzw. das darin befindliche Objekt besonders umfassend erfasst und mittels der Datenverarbeitungseinrichtung besonders genau ausgewertet werden.According to a further exemplary embodiment of the invention, the first characteristic feature is a first spectral distribution and the second characteristic feature is a second spectral distribution, the second spectral distribution being different from the first spectral distribution Distribution. Since different spectral distributions represent different optical properties of the scene or the object located therein with different accuracy and / or different detail, the scene or the object located therein can be detected in a particularly comprehensive manner by the use of different spectral distributions and evaluated particularly accurately by means of the data processing device become.

Die erste spektrale Verteilung kann eine erste Wellenlänge bzw. ein erster Welllängenbereich, beispielsweise sichtbares Licht sein, wohingegen die zweite spektrale Verteilung eine zweite unterschiedliche Wellenlänge bzw. ein zweiter unterschiedlicher Welllängenbereich, beispielsweise infrarotes (IR) Licht sein kann. In diesem Fall könnte der erste Sensorbereich mittels eines üblichen RGB Sensors realisiert sein. Der zweite Sensorbereich kann ein IR Sensor, welcher IR Licht erfasst, oder ein IR und RGB Sensor sein, welcher IR und sichtbares Licht gleichzeitig erfasst.The first spectral distribution may be a first wavelength or a first wavelength range, for example visible light, whereas the second spectral distribution may have a second different wavelength or a second different wavelength range, for example infrared ( IR ) Light can be. In this case, the first sensor area could by means of a conventional RGB Sensors be realized. The second sensor area can be IR Sensor, which IR Light is captured, or a IR and RGB Be sensor, which IR and visible light detected simultaneously.

In einer weiteren bevorzugten Ausführungsform werden pro Pixel des Sensors sowohl sensitive Zonen für sichtbares Licht als auch sensitive Zonen für IR-Strahlung integriert. Dies kann nicht nur bei besonderen Reflexionseigenschaften von Objekten in der Szene von Vorteil sein, auch bei Fremdenergieeinstrahlungen beispielsweise durch einen Heizstrahler, einen Scheinwerfer, der Sonne, etc. kann entsprechendes Fremdlicht besonders gut von „gewünschter“ die Szene charakterisierender Strahlung diskriminiert werden.In a further preferred embodiment, both sensitive zones for visible light and sensitive zones for IR radiation are integrated per pixel of the sensor. This can not only be advantageous in the case of special reflection properties of objects in the scene, even with extraneous energy radiations, for example due to a radiant heater, a floodlight, the sun, etc., corresponding external light can be particularly well discriminated against by "desired" radiation characterizing the scene.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Sensorsystem ferner auf eine Beleuchtungseinrichtung zum Beleuchten der Szene mit einem Beleuchtungslicht, welches eine vorbestimmte Beleuchtungscharakteristik aufweist. Dies hat den Vorteil, dass das beschriebene Sensorsystem auch bei schlechten Lichtverhältnissen verwendet werden kann und trotzdem gute Erkennungsergebnissen (von Objekten) der Szene erreicht werden können. Die Beleuchtungseinrichtung kann mit der Datenverarbeitungseinrichtung gekoppelt und von dieser in geeigneter Weise gesteuert werden. So kann die Beleuchtungseinrichtung beispielsweise lediglich in vergleichsweise kurzen Zeitspannen und mit einer gewissen Wiederholrate betrieben und damit Energie eingespart werden. Selbstverständlich sollte dann auch die Szenenerfassung durch den Sensor mit der „getakteten Beleuchtung“ synchronisiert werden.According to a further embodiment of the invention, the sensor system further comprises a lighting device for illuminating the scene with an illumination light having a predetermined lighting characteristic. This has the advantage that the described sensor system can also be used in low light conditions and still good recognition results (of objects) of the scene can be achieved. The illumination device can be coupled to the data processing device and controlled by it in a suitable manner. For example, the illumination device can be operated only in comparatively short periods of time and with a certain repetition rate, thus saving energy. Of course, then the scene detection by the sensor with the "clocked lighting" should be synchronized.

Es wird darauf hingewiesen, dass beispielsweise bei Durchgangsbereichen von verschließbaren Öffnungen in Gebäuden, welche von Lichtfeldkameras überwacht werden, zwischen einer sog. aktiven und einer sog. passiven Beleuchtung unterschieden werden kann. Eine aktive Beleuchtung wird durch eine oder mehrere vorstehend beschriebene Beleuchtungseinrichtungen realisiert. Eine passive Beleuchtung basiert auf Fremdlichtquellen, welche natürliche Lichtquellen wie beispielsweise die Sonne und/oder andere in Bezug auf das beschriebene Sensorsystem externe Lichtquellen wie beispielsweise eine Lampe einer Straßenbeleuchtung sein kann.It should be noted that, for example, in the case of passage areas of closable openings in buildings, which are monitored by light field cameras, a distinction can be made between so-called passive lighting and so-called passive lighting. Active illumination is realized by one or more illumination devices described above. Passive lighting is based on extraneous light sources, which may be natural light sources such as the sun and / or other external sources of light, such as a street lighting lamp, with respect to the described sensor system.

Bei durch solche Fremdlichtquellen erzeugten hellen Umgebungssituationen kann auf eine aktive Beleuchtung verzichtet werden, wenn zumindest einer der nachfolgenden Punkte erfüllbar ist:

  1. (1) Eine Objekterkennung innerhalb der Szene funktioniert aus einer durch die Lichtfeldkamera gewonnen „Punktwolke“ ausreichend zuverlässig. Dies kann von der Datenverarbeitungseinrichtung beispielsweise durch geeignete Plausibilitätsüberprüfungen festgestellt werden.
  2. (2) Durch einen Anlernprozess kann eine „leere Szene“ (ohne Objekt aber optional mit vorhandenen Störfaktoren wie zum Beispiel Schnee und Regen) analysiert werden. Bei einer nachfolgenden Erfassung einer „nicht leeren Szene“ können dann Änderungen gegenüber der „leeren“ Szene zuverlässig erkannt und einem Objekt zugeordnet werden. Optional kann bei Berücksichtigung der Tatsache, dass keine freischwebenden Objekte erkannt werden dürfen, eine vereinfachte und diese Prämisse erfüllende Erkennung von in der Szene befindlichen Objekten vorgenommen werden. Dies kann auch den Vorteil einer Reduzierung der Rechenleistung (und damit der von dem Sensorsystem verbrauchten Energie) mit sich bringen. Eine solche Energieersparnis kann insbesondere bei einer ständigen Überwachung von Fluchtwegen und Fluchttüren große Vorteile bieten.
In bright ambient conditions generated by such extraneous light sources can be dispensed with an active lighting, if at least one of the following points can be fulfilled:
  1. (1) An object recognition within the scene functions sufficiently reliably from a "point cloud" obtained by the light field camera. This can be determined by the data processing device, for example by suitable plausibility checks.
  2. (2) Through a learning process, an "empty scene" (without object but optionally with existing disturbing factors such as snow and rain) can be analyzed. In a subsequent detection of a "non-empty scene" then changes against the "empty" scene can be reliably detected and assigned to an object. Optionally, taking into account the fact that no free-floating objects may be detected, a simplified and this premise fulfilling detection of objects located in the scene can be made. This can also bring with it the advantage of reducing the computing power (and thus the energy consumed by the sensor system). Such energy savings can offer great advantages, in particular with constant monitoring of escape routes and escape doors.

Auch bei Berücksichtigung der vorstehend genannten Überlegungen zum Verzichten einer aktiven Beleuchtung kann in Situationen mit schwierigen Lichtbedingungen mittels der vorstehend beschriebenen (zusätzlichen) Beleuchtungseinrichtung eine Zusatzbeleuchtung für die Lichtfeldkamera bereitgestellt werden. Solche schwierigen Lichtbedingungen können zum Beispiel gegeben sein in relativ dunklen (geschlossenen) Räumen, außerhalb von Gebäuden bei Dunkelheit, Nebel, Schnee, Regen, Graupel, durch Wind bewegte Vegetation, etc. Es versteht sich jedoch von selbst, dass für diese Betriebsart die eingesetzte Beleuchtungsenergie optimiert werden sollte. Dies kann insbesondere durch Variation der Lichtintensität der Beleuchtung erreicht werden. So kann die bei der Lichtfeldkamera eintreffende reflektierte Lichtmenge optimiert werden.Even in consideration of the above-mentioned considerations for omitting active illumination, additional lighting for the light field camera can be provided in situations with difficult lighting conditions by means of the (additional) illumination device described above. Such difficult lighting conditions may be present, for example, in relatively dark (enclosed) spaces, outside buildings in the dark, fog, snow, rain, sleet, wind-swept vegetation, etc. However, it is understood that for this mode of operation Lighting energy should be optimized. This can be achieved in particular by varying the light intensity of the illumination. Thus, the reflected light quantity arriving at the light field camera can be optimized.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungseinrichtung konfiguriert, das Beleuchtungslicht mit einer zeitlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die zeitliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung ausgewerteten Szene abhängt. Bei diesem Ausführungsbeispiel kann insbesondere eine dynamische, durch situativen Einsatz gegebene oder mittels Einlernens ermittelte Anpassung der Beleuchtung vorgenommen werden. Dabei kann beispielsweise ein unterschiedliches Lichtreflexionsvermögen von (beweglichen) Objekten und/oder Hintergründe einer Szene berücksichtigt werden. Eine solche dynamische Anpassung der Beleuchtung kann (bei Notwendigkeit einer aktiven Beleuchtung durch das gemäß dem hier beschriebenen Ausführungsbeispiel beschriebene Sensorsystem) zu einer signifikanten Energieersparnis führen.According to a further embodiment of the invention, the illumination device configured to emit the illumination light with a time-varying illumination characteristic, wherein in particular the temporal change of the illumination characteristic depends on the result of the evaluated by the data processing device scene. In this embodiment, in particular a dynamic, given by situational use or determined by learning adjustment of the lighting can be made. In this case, for example, a different light reflectivity of (movable) objects and / or backgrounds of a scene can be taken into account. Such a dynamic adjustment of the illumination can lead to significant energy savings (if active illumination is required by the sensor system described according to the exemplary embodiment described here).

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungseinrichtung konfiguriert, das Beleuchtungslicht mit einer örtlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die örtliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung ausgewerteten Szene abhängt.According to a further exemplary embodiment of the invention, the illumination device is configured to emit the illumination light with a locally variable illumination characteristic, wherein in particular the local variation of the illumination characteristic depends on the result of the scene evaluated by the data processing device.

Anschaulich ausgedrückt sorgt die Beleuchtungseinrichtung für eine räumlich inhomogene Beleuchtung der Szene, wobei charakteristische Merkmale der Beleuchtung wie insbesondere die Intensität der Beleuchtung von dem Raumwinkel des Strahlengänge abhängt, über welche die Szene bzw. insbesondere das darin befindlich Objekt optisch erfasst wird. Dabei ist es natürlich sinnvoll, wenn diejenigen Teilbereiche der Szene, in denen sich das zumindest eine Objekt befindet oder in denen das zumindest eine Objekt vermutet wird, mit einer im Vergleich zu den anderen Teilbereichen der Szene höheren Beleuchtungsintensität beleuchtet werden. Ferner kann bei der Auswahl bzw. Einstellung einer geeigneten Beleuchtungsintensität der (zu erwartende) Abstand des zumindest einen Objekts berücksichtigt werden. Konkret werden weiter entfernt liegende Objekte mit einer höheren Beleuchtungsintensität beleuchtet und dadurch der Effekt der Ausweitung von Lichtstrahlen des Beleuchtungslichts zumindest annähernd kompensiert.Illustratively, the illumination device ensures spatially inhomogeneous illumination of the scene, with characteristic features of the illumination, in particular the intensity of the illumination, being dependent on the solid angle of the beam path, via which the scene or in particular the object located therein is optically detected. In this case, it makes sense, of course, if those subregions of the scene in which the at least one object is located or in which the at least one object is suspected are illuminated with a higher illumination intensity compared to the other subregions of the scene. Furthermore, the (expected) distance of the at least one object can be taken into account when selecting or setting a suitable illumination intensity. Specifically, more distant objects are illuminated with a higher illumination intensity and thereby at least approximately compensates for the effect of the expansion of light beams of the illumination light.

Ferner kann durch eine geeignete Fokussierung oder optische Abbildung des Beleuchtungslichts dafür Sorge getragen werden, dass zumindest Teilbereiche der Szene nicht vollständig sondern mittels diskreten voneinander beanstandeten Beleuchtungslichtstrukturen, beispielsweise Lichtpunkte bzw. Lichtlinien, beleuchtet werden. Dies stellt eine weitere Möglichkeit für eine wirksame Energieeinsparung in Bezug auf eine aktive Beleuchtung dar. In diesem Zusammenhang wird darauf hingewiesen, dass die Beabstandung benachbarter Beleuchtungslichtstrukturen kleiner sein sollte als die minimale Größe der zu detektierenden Objekte bzw. Objektteile. Optional kann auch berücksichtig werden, dass sich die Beleuchtungsstrukturen und deren Abstände voneinander mit zunehmendem Abstand von dem Sensor vergrößern bzw. aufweiten. Dies bedeutet, dass für eine Erkennung von weiter entfernten Objekten sich die Lichtstrahlen des Beleuchtungslichts bzw. die Beleuchtungsstrukturen in dem Beleuchtungslicht nicht zu stark aufweiten dürfen, um eine ausreichende Beleuchtung und damit sichere Erkennung des Objekts zu gewährleisten. Furthermore, by suitable focusing or optical imaging of the illumination light, care can be taken that at least partial areas of the scene are not illuminated completely but by means of discrete illumination light structures, for example light points or light lines, which are disputed from one another. This represents another possibility for an effective energy saving with respect to an active illumination. In this connection it is pointed out that the spacing of adjacent illumination light structures should be smaller than the minimum size of the objects or object parts to be detected. Optionally, it can also be taken into account that the illumination structures and their distances from each other increase or expand with increasing distance from the sensor. This means that, for detection of objects located farther away, the light beams of the illumination light or the illumination structures in the illumination light must not spread too much in order to ensure sufficient illumination and thus reliable detection of the object.

Bevorzugt ist die Beleuchtungseinrichtung (kommunikativ) mit der Datenverarbeitungseinrichtung gekoppelt, sodass der Betrieb der Beleuchtungseinrichtung von der Datenverarbeitungseinrichtung gesteuert werden kann. Weiter bevorzugt erfolgt diese Steuerung in Abhängigkeit der aktuellen Charakteristik der Szene, sodass die Beleuchtung dynamisch an sich veränderliche Szenen angepasst und stets eine optimale Beleuchtung der Szene erreicht werden kann. Dabei kann bei besonders bevorzugten Ausführungsformen die Beleuchtung bzw. die Beleuchtungsintensität von der Helligkeit bzw. dem optischen Reflexionsvermögen der Oberfläche des Objekts abhängen. Konkret bedeutet dies, dass bei hellen bzw. stark reflektierenden Objekten die Intensität des Beleuchtungslichts kleiner sein kann als bei dunklen bzw. schwach reflektierenden Objekten.Preferably, the illumination device is (communicatively) coupled to the data processing device, so that the operation of the illumination device can be controlled by the data processing device. More preferably, this control is done depending on the current characteristics of the scene, so that the lighting dynamically adapted to changing scenes and always optimal lighting of the scene can be achieved. In this case, in particularly preferred embodiments, the illumination or the illumination intensity may depend on the brightness or the optical reflectivity of the surface of the object. Specifically, this means that in bright or highly reflective objects, the intensity of the illumination light can be smaller than in dark or weakly reflective objects.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist die Beleuchtungscharakteristik durch zumindest eines der folgenden Merkmale bestimmt: (a) Intensität für zumindest einen Teilbereich der Szene, (b) Intensitätsunterschiede zwischen verschiedenen Teilbereichen der Szene, (c) Wellenlänge, (d) spektrale Intensitätsverteilung, (e) Polarisationsrichtung, und (f) Intensitätsverteilung für unterschiedliche Polarisationsrichtungen. Durch eine anwendungsspezifische Verwendung von einem dieser Merkmale oder durch eine geeignete Kombination von zumindest zwei dieser Merkmale können die zu erkennenden Objekte besonders gut beleuchtet und als Ergebnis mit besonders hoher Genauigkeit und Zuverlässigkeit erkannt werden.According to a further embodiment of the invention, the illumination characteristic is determined by at least one of the following features: (a) intensity for at least a portion of the scene, (b) intensity differences between different portions of the scene, (c) wavelength, (d) spectral intensity distribution, ( e) polarization direction, and (f) intensity distribution for different polarization directions. By an application-specific use of one of these features or by a suitable combination of at least two of these features, the objects to be recognized can be illuminated particularly well and recognized as a result with particularly high accuracy and reliability.

Hinsichtlich der Größe der Teilbereiche der Szene bestehen keine besonderen Einschränkungen. Im Extremfall kann ein Teilbereich genau einem Pixel des Sensors zugeordnet sein.With regard to the size of the subregions of the scene, there are no particular restrictions. In extreme cases, a partial area can be assigned to exactly one pixel of the sensor.

Die Wellenlänge, Frequenz bzw. Farbe des Beleuchtungslichts kann durch eine geeignete Ansteuerung von spektral unterschiedlichen Leuchtelementen, insbesondere LEDs mit unterschiedlicher Farbe, variiert bzw. an die zu erwartende Charakteristik der Szene angepasst werden. Die Polarisationsrichtung des Beleuchtungslichts kann auf bekannte Weise beispielsweise durch die Verwendung von Polarisationsfiltern eingestellt werden.The wavelength, frequency or color of the illumination light can be varied by a suitable control of spectrally different light-emitting elements, in particular LEDs with different colors, or adapted to the expected characteristic of the scene. The polarization direction of the illumination light may be known For example, be set by the use of polarizing filters.

Alle genannten charakteristischen Merkmale können optional dynamisch an sich veränderliche Szenen angepasst werden, sodass stets eine möglichst optimale Beleuchtung der Szene erreicht werden kann. Dabei kann eine optimale Beleuchtungscharakteristik auch nach dem Prinzip „Try-and-Error“ oder durch andere statistischen Optimierungsprozeduren ermittelt werden. Dies kann dynamisch während eines reellen Betriebs des Sensorsystems oder im Rahmen einer Kalibrierung mittels einer Erkennung von geeigneten Referenzobjekten erfolgen.All mentioned characteristic features can optionally be adapted dynamically to changing scenes, so that the best possible illumination of the scene can always be achieved. In this case, an optimal lighting characteristic can also be determined according to the principle of "try-and-error" or by other statistical optimization procedures. This can be done dynamically during a real operation of the sensor system or as part of a calibration by means of a detection of suitable reference objects.

Gemäß einem weiteren Aspekt der Erfindung wird beschrieben ein Verfahren zum Bestimmen der Charakteristik einer Szene mit einem Sensorsystem und insbesondere mit einem Sensorsystem des vorstehend genannten Typs. Das Verfahren weist auf (a) ein dreidimensionales optischen Erfassen der Szene und eines in der Szene enthaltenen Objekts mittels eines auf dem Prinzip einer Lichtfeldkamera basierender Sensors; und (b) ein Auswerten der optisch erfassten Szene mittels einer dem Sensor nachgeschalteten Datenverarbeitungseinrichtung, wobei von einem in der Szene enthaltenen Objekt in Echtzeit Bewegungsprofile bestimmt werden.According to a further aspect of the invention, a method is described for determining the characteristic of a scene with a sensor system and in particular with a sensor system of the aforementioned type. The method comprises (a) three-dimensional optical detection of the scene and of an object contained in the scene by means of a sensor based on the principle of a light field camera; and (b) evaluating the optically detected scene by means of a data processing device connected downstream of the sensor, wherein motion profiles are determined in real time by an object contained in the scene.

Auch dem beschriebenen Verfahren liegt die Erkenntnis zugrunde, dass durch die Verwendung eines als Lichtfeldkamera ausgebildeten Sensors auf energetisch effiziente Art und Weise bewegte Objekte erkannt und deren Bewegungsprofil in Echtzeit (mittels der dem optischen Sensor nachgeschalteten Datenverarbeitungseinrichtung) bestimmt werden können.The described method is also based on the knowledge that the use of a sensor designed as a light field camera can detect moving objects in an energy-efficient manner and determine their motion profile in real time (by means of the data processing device connected downstream of the optical sensor).

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Verfahren ferner auf ein Beleuchten der Szene mit einem Beleuchtungslicht, welches von einer Beleuchtungseinrichtung ausgesandt wird und welches eine vorbestimmte Beleuchtungscharakteristik aufweist, wobei die Beleuchtungscharakteristik für einen vorgegebenen Teilbereich der Szene eine bestimmte maximale Beleuchtungsintensität aufweist. Dadurch kann auf vorteilhafte Weise verhindert werden, dass manche Bereiche der Szene „überbelichtet“ werden. Eine Bestimmung des Pegels dieser maximalen Beleuchtungsintensität kann erfolgen im Wege einer Kalibrierung automatisch und/oder zyklisch jeweils nach einer vorbestimmten Betriebszeitspanne des beschriebenen Sensorsystems. Der maximale Beleuchtungsintensitätspegel kann auch während des Betriebs des Sensorsystems dynamisch eingestellt bzw. adaptiert werden, indem Ergebnisse der Datenverarbeitungseinrichtung in geeigneter Weise für eine entsprechende Intensitätseinstellung des Beleuchtungslichts verwendet werden.According to a further exemplary embodiment of the invention, the method further comprises illuminating the scene with an illumination light which is emitted by an illumination device and which has a predetermined illumination characteristic, wherein the illumination characteristic has a specific maximum illumination intensity for a predetermined subarea of the scene. As a result, it can be advantageously prevented that some areas of the scene are "overexposed". A determination of the level of this maximum illumination intensity can take place by means of a calibration automatically and / or cyclically in each case after a predetermined operating period of the described sensor system. The maximum illumination intensity level may also be dynamically adjusted during operation of the sensor system by appropriately using data processing device results for a corresponding intensity adjustment of the illumination light.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung weist das Verfahren ferner auf ein Vergleichen des erfassten Objekts mit zumindest einem Vergleichsobjekt; und, wenn das Objekt innerhalb vorgegebener zulässiger Abweichungen mit einem Vergleichsobjekt übereinstimmt, Identifizieren des Objekts als ein für eine bestimmte Aktion zugelassenes Objekt.According to a further embodiment of the invention, the method further comprises comparing the detected object with at least one comparison object; and, if the object agrees with a comparison object within predetermined permissible deviations, identifying the object as an object authorized for a particular action.

Die zugelassene Aktion kann beispielsweise eine erlaubte Passage durch eine Öffnung in einem Gebäude sein, welche Öffnung vor der Identifizierung als zugelassenes Objekt durch einen Verschließkörper verschlossen ist und erst nach der erfolgreichen Identifizierung durch eine entsprechende Bewegung des Verschließkörpers geöffnet wird. Die zu identifizierenden Objekte können bevorzugt Personen und/oder Fahrzeuge sein. Eine erfolgreiche Identifizierung kann zur Steuerung bzw. zur Aktivierung eines Verschlussmechanismus für einen Verschließkörper vor einer Öffnung eines Gebäudes sein.The approved action may, for example, be an authorized passage through an opening in a building, which opening is closed by a closure body prior to identification as an approved object and is opened only after successful identification by a corresponding movement of the closure body. The objects to be identified may preferably be persons and / or vehicles. Successful identification may be to control or activate a closure mechanism for a closure body prior to opening a building.

Durch die Verwendung der 3D (Tiefen-) Information des als Lichtfeldkamera ausgebildeten Sensors kann bei Personen beispielsweise eine zuverlässige Gesichtserkennung realisiert werden, welche zur Aktivierung eines Verschlussmechanismus verwendet werden kann. Dabei können bestimmte Bereiche der Szene besonders beleuchtet und mit eine erhöhten Auflösung versehen werden, so dass dies wiederum zu einer Energiereduktion gegenüber der Überwachung der ganzen Szene in Hochauflösung oder bei voller Beleuchtung führt.By using the 3D (depth) information of the sensor designed as a light field camera, for example, a reliable face recognition can be realized in persons, which can be used to activate a shutter mechanism. Certain areas of the scene can be particularly illuminated and provided with an increased resolution, which in turn leads to an energy reduction compared to monitoring the entire scene in high definition or with full illumination.

Anstelle von Personen können bei anderen Ausführungsformen auch geprägte Schilder, insbesondere Nummernschilder von Fahrzeugen, zuverlässig erfasst und erkannt werden. Durch die 3D Informationen kann nämlich die Prägung des Kennzeichens gut erkannt werden, was zu einer verbesserten Lesezuverlässigkeit führt. Insbesondere kann auf diese Weise eine allfällige Fälschung eines Kennzeichens besser erkannt werden.Instead of persons embossed signs, in particular license plates of vehicles can be reliably detected and recognized in other embodiments. Namely, by the 3D information, the embossing of the mark can be recognized well, resulting in improved reading reliability. In particular, a possible counterfeiting of a license plate can be better recognized in this way.

Gemäß einem weiteren Aspekt der Erfindung wird beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor, insbesondere eines vorstehend beschriebenen Sensorsystems, für ein Steuern einer Bedeckungscharakteristik einer von einem Objekt zu passierenden Öffnung durch zumindest einen Verschließkörper.According to a further aspect of the invention, a use of a sensor system with a sensor based on the principle of a light field camera, in particular of a sensor system described above, for controlling a coverage characteristic of an opening to be passed through an object by at least one closure body is described.

Der beschriebenen Verwendung des eine Lichtfeldkamera aufweisenden Sensorsystems liegt die Erkenntnis zugrunde, dass eine auf energetisch effiziente Weise vorgenommen Erfassung und Auswertung einer optischen Szene auf vorteilhafte Weise bei Durchgängen eingesetzt werden kann, welche von einem Verschließkörper verschlossen werden können. Dies gilt insbesondere für Durchgänge, welche eine Verschluss- bzw. eine Bedeckungscharakteristik aufweisen, die von dem beschriebenen Sensorsystem gesteuert oder zumindest mitgesteuert wird. Da solche Sensorsysteme üblicherweise durch die Verschlusssysteme für die Verschließkörper mit Energie versorgt werden, ist es besonders wichtig, mit einer vergleichsweise geringen Energiemenge auszukommen und trotzdem zu zuverlässigen Szenenauswertungen zu kommen. Durch die erfindungsgemäße Verwendung eines als Lichtfeldkamera ausgebildeten Sensors können auf energetisch effiziente Weise auch größere Distanzen überwacht werden, welches naturgemäß zu einem früheren Erkennen einer Öffnungsanforderung des Verschließkörpers führt, was insbesondere bei sich schnell bewegenden Objekten von großem Vorteil sein kann. Ferner kann die Szene mit einem breiteren Erfassungswinkel erfasst werden, was beispielswiese zu einem frühzeitiges Erkennen von sich quer zur Öffnung bewegenden Querverkehr und damit zu einem zuverlässigeres Erkennen von Objekten im Sicherheitsbereich des Verschlusssystems führen kann.The described use of the sensor system having a light field camera is based on the finding that an energy-efficient detection and evaluation of an optical scene can be advantageously used in passages which are closed by a closing body can be. This applies in particular to passages which have a closure or a cover characteristic which is controlled or at least co-controlled by the described sensor system. Since such sensor systems are usually supplied with energy by the closure systems for the closure bodies, it is particularly important to manage with a comparatively small amount of energy and nevertheless to come to reliable scene evaluations. The inventive use of a trained as a light field camera sensor can be monitored in an energetically efficient manner and larger distances, which naturally leads to an earlier detection of an opening requirement of the closing body, which can be of great advantage especially for fast moving objects. Furthermore, the scene can be detected with a wider detection angle, which can lead, for example, to an early detection of transverse traffic moving transversely to the opening and thus to a more reliable detection of objects in the security area of the closure system.

Gemäß einem Ausführungsbeispiel der Erfindung ist die Öffnung ein Eingang oder ein Ausgang, insbesondere ein Notausgang in einem Gebäude. Durch das Erkennen eines zwar vorhandenen, aber sich ggf. nicht bewegenden Objektes in einem Durchgang kann ein Eingang oder Ausgang, insbesondere ein blockierter Notausgang erkannt und diese Information an ein angegliedertes System, beispielsweise an ein Überwachungssystem übermittelt werden.According to one embodiment of the invention, the opening is an entrance or an exit, in particular an emergency exit in a building. By recognizing an existing, but possibly non-moving object in one pass, an input or output, in particular a blocked emergency exit can be detected and this information is transmitted to an affiliated system, for example to a monitoring system.

Gemäß einem weiteren Ausführungsbeispiel der Erfindung ist das Objekt eine Person oder ein Fahrzeug. In diesem Fall kann das Gebäude insbesondere ein Haus oder eine Garage sein.According to a further embodiment of the invention, the object is a person or a vehicle. In this case, the building may in particular be a house or a garage.

Gemäß einem weiteren Aspekt der Erfindung wird beschrieben eine Verwendung eines Sensorsystems mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor, insbesondere eines vorstehend beschriebenen Sensorsystems, für ein Erfassen und/oder Steuern von Verkehrsströmen von Objekten, welche sich durch eine Szene des Sensorsystems bewegen, wobei die Szene durch einen räumlichen Erfassungsbereich des Sensorsystems bestimmt ist.According to a further aspect of the invention is described a use of a sensor system with a sensor based on the principle of a light field camera, in particular a sensor system described above, for detecting and / or controlling traffic flows of objects which move through a scene of the sensor system, wherein the scene is determined by a spatial detection range of the sensor system.

Auch dieser beschriebenen Verwendung liegt die Erkenntnis zugrunde, dass es bei einer Verkehrserfassung und/oder Verkehrsstromlenkung auf eine energieeffiziente Sensorik ankommt, da diese Sensorik typischerweise ständig in Betrieb ist. Die für den betreffenden Verkehrsstrom relevanten Objekte können beispielsweise Personen, Fahrzeuge, Produkte wie z.B. Pakete, Koffer, etc. sein. Da für derartige Anwendungen üblicherweise eine Mehrzahl oder gar eine Vielzahl von 3D Sensoren einsetzt werden, wirken sich hier Energieeinsparungen besonders positiv aus.This described use is also based on the finding that an energy-efficient sensor system is important in traffic detection and / or traffic flow control, since this sensor system is typically constantly in operation. The objects relevant to the traffic flow in question can be, for example, persons, vehicles, products such as e.g. Be packages, suitcases, etc. Since a plurality or even a multiplicity of 3D sensors are usually used for such applications, energy savings have a particularly positive effect here.

Es wird darauf hingewiesen, dass Ausführungsformen der Erfindung mit Bezug auf unterschiedliche Erfindungsgegenstände beschrieben wurden. Insbesondere sind einige Ausführungsformen der Erfindung mit Vorrichtungsansprüchen und andere Ausführungsformen der Erfindung mit Verfahrensansprüchen bzw. Verwendungsansprüchen beschrieben. Dem Fachmann wird jedoch bei der Lektüre dieser Anmeldung sofort klar werden, dass, sofern nicht explizit anders angegeben, zusätzlich zu einer Kombination von Merkmalen, die zu einem Typ von Erfindungsgegenstand gehören, auch eine beliebige Kombination von Merkmalen möglich ist, die zu unterschiedlichen Typen von Erfindungsgegenständen gehören.It should be noted that embodiments of the invention have been described with reference to different subject matters. In particular, some embodiments of the invention are described with apparatus claims and other embodiments of the invention with method claims. However, it will be readily apparent to those skilled in the art upon reading this application that, unless explicitly stated otherwise, in addition to a combination of features belonging to a type of subject matter, any combination of features that may result in different types of features is also possible Subject matters belong.

Bevor bezugnehmend auf die Zeichnung exemplarische Ausführungsbeispiele der Erfindung beschrieben werden, werden im Weiteren einige technische Überlegungen im Zusammenhang mit der Erfindung dargestellt.Before describing exemplary embodiments of the invention with reference to the drawing, some technical considerations in connection with the invention are presented below.

Eine Lichtfeldkamera ermöglicht in bekannter Weise eine dreidimensionale Erfassung einer Szene. Insbesondere auf dem technischen Gebiet der Überwachung eines Schließbereiches einer durch einen Verschließkörper verschließbaren Öffnung und/oder einer Steuerung der Bewegung eines solchen Verschließkörpers ist ein Sensorsystem von großem Vorteil, welches eine hohe Energieeffizienz bzw. einen niedrigen Energieverbrauch aufweist. Gleiches gilt für (ständig im Betrieb befindliche) Sensorsysteme zur Überwachung und/oder Steuerung von Verkehrsströmen. Bei Sensorsystemen mit einer eigenen (aktiven) Beleuchtungseinrichtung trägt diese maßgeblich zu dem Energieverbrauch bei. Daher ist eine hohe „Lichteffizienz“ nicht nur der Beleuchtung sondern auch (des Sensors) der Sensorvorrichtung von großer Bedeutung.A light field camera allows a three-dimensional detection of a scene in a known manner. Particularly in the technical field of monitoring a closing area of an opening which can be closed by a closing body and / or controlling the movement of such a closing body, a sensor system which has high energy efficiency or low energy consumption is of great advantage. The same applies to (constantly in operation) sensor systems for monitoring and / or controlling traffic flows. In sensor systems with their own (active) lighting device, this contributes significantly to energy consumption. Therefore, high "light efficiency" not only of the illumination but also of the sensor device is of great importance.

Im Wissen um diese grundlegende Wichtigkeit einer möglichst hohen optischen Energieeffizienz lässt sich durch eine niedrige Auflösung signifikant Beleuchtungsenergie einsparen und trotzdem gewährleisten, dass eine ausreichende Menge an Lichtenergie bzw. Lichtleistung auf den Sensor auftrifft. Die für gewisse Anwendungen benötigten Entscheidungskriterien in Hinblick auf eine zuverlässige Erkennung eines Objekts der Szene lassen sich durch eine geeignete Interpretation von zusätzlichen optischen Merkmalen der detektierten Strahlung energetisch günstiger ermitteln, als dies durch eine höhere Auflösung erreicht werden könnte. Eine solche Interpretation kann insbesondere vorgenommen werden von der Datenverarbeitungseinrichtung des beschriebenen Sensorsystems.In the knowledge of this fundamental importance of the highest possible optical energy efficiency can be saved by a low resolution significantly lighting energy and still ensure that a sufficient amount of light energy or light output is incident on the sensor. The decision criteria required for certain applications with regard to a reliable detection of an object of the scene can be determined by a suitable interpretation of additional optical features of the detected radiation energetically more favorable than could be achieved by a higher resolution. Such an interpretation can be made in particular by the data processing device of the described sensor system.

Insbesondere bei der Erkennung und Verfolgung des Objekts ist es von hoher Wichtigkeit, in der jeweils erfassten Szene zusammenhängende Objektteile mit ähnlichen optischen Eigenschaften zuverlässig als zu einem Objekt gehörig zu interpretieren. Da zusammenhängende Objektteile sehr häufig ähnliche Eigenschaften aufweisen, lässt sich durch ein Sensorsystem, das solche Eigenschaften erkennt, ein entsprechender Zusammenhang bilden und Rechenleistung und damit auch Energie einsparen. Particularly in the case of recognition and tracking of the object, it is of great importance to reliably interpret object parts with similar optical properties which belong together in the respectively detected scene as belonging to an object. Since connected object parts very often have similar properties, a sensor system that recognizes such properties can form a corresponding relationship and save computing power and therefore also energy.

Solche ähnlichen Eigenschaften können Muster, Farben, Reflexionseigenschaften über ein beliebig breites optisches Spektrum, Polarisationsrichtung des detektierten Lichts, optische Kontraste, etc. sein. Ferner können auch in Bezug auf das Sensorsystem interne Faktoren wie die Eigenschaften einer eigenen Beleuchtung durch eine Beleuchtungseinrichtung und/oder einer Fremdbeleuchtung bei dem optischen Erfassen der Szene und damit auch bei der nachfolgenden Auswertung der optisch erfassten Szene berücksichtigt werden.Such similar properties may be patterns, colors, reflection properties over an arbitrarily wide optical spectrum, polarization direction of the detected light, optical contrasts, etc. Furthermore, with regard to the sensor system, internal factors such as the properties of a separate illumination by a lighting device and / or external illumination in the optical detection of the scene and thus also in the subsequent evaluation of the optically detected scene can be taken into account.

So kann z.B. berücksichtigt werden, dass von Fremdlicht (z.B. Sonnenlicht) reflektierte Lichtstrahlen eine andere Polarisationsrichtung haben wie dasjenige Licht, welches bestimmungsgemäß für das Erfassen der Szene verwendet werden soll. Auch spektrale Einflüsse wie die Tatsache, dass z.B. rote Oberflächen wenig blaues und grünes Licht reflektieren, können als eine wertvolle Zusatzinformation bei der Auswertung bzw. Interpretation der optisch erfassten Szene verwendet (und dabei im Vergleich zu einer Nichtberücksichtigung dieser Zusatzinformation) Energie eingespart werden. Ferner können störende Einflüsse durch eine gezielte (dynamische) Optimierung der Beleuchtungscharakteristik einer eigenen aktiven Beleuchtung ausgeblendet werden.Thus, e.g. It should be appreciated that light rays reflected from extraneous light (e.g., sunlight) have a different polarization direction than the light intended to be used to detect the scene. Also spectral influences such as the fact that e.g. Red surfaces reflect little blue and green light, can be used as valuable additional information in the evaluation or interpretation of the optically captured scene (and thereby compared to a disregard of this additional information) energy can be saved. Furthermore, disturbing influences can be masked out by a targeted (dynamic) optimization of the lighting characteristic of a separate active lighting.

Eine Ausführungsform der Erfindung erreicht eine Energieeinsparung mittels einer dynamischen Beleuchtungsenergieoptimierung, wobei Beleuchtungsenergien von unterschiedlichen Wellenlängen bzw. Frequenzen verwendet werden. Dabei können beispielsweise abhängig von der Farbe des Objekts die Wellenlängen, die zu den intensivsten Reflexionen bzw. Lichtstreuungen führen, mit einer geringeren Beleuchtungsenergie ausgesendet werden. Im Gegensatz dazu werden andere Wellenlängen bzw. andere Wellenlängenbereiche mit geringerer Reflexion bzw. Streuung mit einer höheren Intensität beleuchtet. So kann beispielsweise ein rotes Objekt so primär mit einem rotem Lichtanteil beleuchtet und der grüne und der blaue Lichtanteil wird (für den betreffenden Raumwinkel) reduziert, bevorzugt auf zumindest annähernd eine Intensität von Null. Dasselbe Prinzip kann auch im Verhältnis zwischen sichtbarem Licht und infraroten (IR) Licht angewendet werden.An embodiment of the invention achieves energy savings by means of dynamic lighting energy optimization using illumination energies of different wavelengths or frequencies. In this case, depending on the color of the object, the wavelengths which lead to the most intense reflections or light scattering can be emitted with a lower illumination energy, for example. In contrast, other wavelengths or other wavelength regions are illuminated with less reflection or scattering with a higher intensity. Thus, for example, a red object is illuminated primarily with a red light component and the green and the blue light component are reduced (for the relevant solid angle), preferably to at least approximately an intensity of zero. The same principle can also be applied in the relationship between visible light and infrared (IR) light.

Die vorstehend beschriebenen zusätzlichen Informationen bzw. zusätzlichen optischen Merkmale der detektierten Strahlung (pro Pixel und mit zugehöriger Distanz und Raumwinkel) können bei dem erfindungsgemäßen Bestimmen des Bewegungsprofils von Objekten von großem Vorteil sein, weil dadurch einfacher Objekte erkannt und verfolgt werden können. Außerdem können funktionelle Zusammengehörigkeiten von Raumpunkten (zu ein und demselben Objekt) über die genannten zusätzlichen Informationen zusätzlich gruppierend ausgewertet und interpretiert werden können.The above-described additional information or additional optical features of the detected radiation (per pixel and with the associated distance and solid angle) can be of great advantage in determining the motion profile of objects according to the invention, since in this way simple objects can be detected and tracked. In addition, functional relationships of spatial points (to one and the same object) can additionally be grouped and interpreted in a grouping manner via the additional information mentioned.

Wenn das in diesem Dokument beschriebene Sensorsystem zu einer Absicherung und/oder einer Aktivierung eines Verschließkörpers an einem Durchgang eingesetzt wird, dann kann zusätzlich mit unterschiedlichen Auflösungen und Messsicherheiten gearbeitet werden. So kann zum Beispiel im Rahmen der Absicherung einer Schiebetüre oder eines vertikalen Torantriebs der Umstand berücksichtigt werden, dass die Absicherung einer Schließfunktion mit der damit verbundenen Gefahr einer Einklemmung nur in direkter Umgebung des Schließkörpers stattfinden muss. So kann im Sinne von Energieoptimierung insbesondere diese Zone unmittelbar vor oder während des Schließvorgangs mit einer hohen Auflösung überwacht werden. Andere Bereiche der Szene, also z.B. die Bereiche an welchen sich der Verschließkörper bereits vorbeibewegt hat, können mit geringerer Auflösung überwacht werden, was zu einer Energieeinsparung führt.If the sensor system described in this document is used for securing and / or activating a closing body on a passage, it is additionally possible to work with different resolutions and measuring safety. For example, in the context of securing a sliding door or a vertical door drive, the fact that the safeguarding of a closing function with the risk of entrapment associated therewith must take place only in the immediate vicinity of the closing body. Thus, in the sense of energy optimization, in particular, this zone can be monitored immediately before or during the closing process with a high resolution. Other areas of the scene, e.g. the areas where the closing body has already passed can be monitored at a lower resolution, which leads to energy savings.

Weitere Vorteile und Merkmale der vorliegenden Erfindung ergeben sich aus der folgenden beispielhaften Beschreibung derzeit bevorzugter Ausführungsformen. Die einzelnen Figuren der Zeichnung dieses Dokuments sind lediglich als schematisch und als nicht maßstabsgetreu anzusehen.Further advantages and features of the present invention will become apparent from the following exemplary description of presently preferred embodiments. The individual figures of the drawing of this document are merely schematic and not to scale.

Figurenlistelist of figures

  • 1 zeigt die Verwendung eines Sensorsystems zum Steuern einer Bedeckungscharakteristik einer Öffnung mittels als Schiebetüren ausgebildeten Verschließkörpern . 1 shows the use of a sensor system for controlling a coverage characteristic of an opening by means of closing bodies formed as sliding doors.
  • 2 zeigt die Verwendung eines Sensorsystems zum Erfassen eines Verkehrsflusses von auf einem Förderband transportierten Objekten. 2 shows the use of a sensor system for detecting a traffic flow of transported on a conveyor belt objects.
  • 3a bis 3c zeigen verschiedenen Ausführungsformen eines Sensorchips für die in 1 dargestellte Lichtfeldkamera. 3a to 3c show various embodiments of a sensor chip for in 1 illustrated light field camera.

Detaillierte BeschreibungDetailed description

Es wird darauf hingewiesen, dass in der folgenden detaillierten Beschreibung Merkmale bzw. Komponenten von unterschiedlichen Ausführungsformen, die mit den entsprechenden Merkmalen bzw. Komponenten von einer anderen Ausführungsform nach gleich oder zumindest funktionsgleich sind, mit den gleichen Bezugszeichen oder mit Bezugszeichen versehen sind, welche in den letzten beiden Ziffern identisch sind mit den Bezugszeichen von entsprechenden gleichen oder zumindest funktionsgleichen Merkmalen bzw. Komponenten. Zur Vermeidung von unnötigen Wiederholungen werden bereits anhand einer vorher beschriebenen Ausführungsform erläuterte Merkmale bzw. Komponenten an späterer Stelle nicht mehr im Detail erläutert.It should be noted that in the following detailed description features or components of different embodiments, with the corresponding features or Components of another embodiment are the same or at least functionally identical, are provided with the same reference numerals or with reference numerals, which are identical in the last two digits with the reference numerals of corresponding same or at least functionally identical features or components. In order to avoid unnecessary repetitions, features or components already explained on the basis of a previously described embodiment will not be explained in detail later.

Ferner wird darauf hingewiesen, dass die nachfolgend beschriebenen Ausführungsformen lediglich eine beschränkte Auswahl an möglichen Ausführungsvarianten der Erfindung darstellen. Insbesondere ist es möglich, die Merkmale einzelner Ausführungsformen in geeigneter Weise miteinander zu kombinieren, so dass für den Fachmann mit den hier explizit dargestellten Ausführungsvarianten eine Vielzahl von verschiedenen Ausführungsformen als offensichtlich offenbart anzusehen sind.It should also be noted that the embodiments described below represent only a limited selection of possible embodiments of the invention. In particular, it is possible to suitably combine the features of individual embodiments with one another, so that a multiplicity of different embodiments are to be regarded as obviously disclosed to the person skilled in the art with the embodiment variants explicitly illustrated here.

1 zeigt die Verwendung eines Sensorsystems 100 zum Steuern einer Bedeckungscharakteristik einer Öffnung 184 abhängig von der Charakteristik einer von dem Sensorsystem 100 überwachten Szene 190. Gemäß dem hier dargestellten Ausführungsbeispiel ist die Öffnung eine Eintrittsöffnung für Personen in ein Gebäude oder eine Garageneinfahrt für Kraftfahrzeuge in eine Garage. Die entsprechende Eingangsstruktur ist mit dem Bezugszeichen 180 versehen. 1 shows the use of a sensor system 100 for controlling a coverage characteristic of an opening 184 depending on the characteristics of one of the sensor system 100 watched scene 190 , According to the embodiment shown here, the opening is an entrance opening for persons in a building or a garage entrance for motor vehicles in a garage. The corresponding input structure is denoted by the reference numeral 180 Provided.

Die Eingangsstruktur 180 umfasst eine stationäre Haltestruktur 182, welche einen Rahmen sowie eine Führung für zwei als Schiebetüren ausgebildete Verschließkörper 186 darstellt. Die Schiebetüren 186 können jeweils mittels eines Motors 187 entlang der durch zwei dicke Doppelpfeile dargestellten Verschieberichtungen bewegt werden. Die Ansteuerung der Motoren 187 erfolgt, wie im Folgenden dargelegt, über das in diesem Dokument beschriebene Sensorsystem 100.The entrance structure 180 includes a stationary support structure 182 which a frame and a guide for two designed as a sliding closure body 186 represents. The sliding doors 186 can each by means of a motor 187 along the displacement directions represented by two thick double arrows. The control of the motors 187 takes place, as set out below, via the sensor system described in this document 100 ,

Das Sensorsystem 100 weist ein Vision System 110, eine Datenverarbeitungseinrichtung 140 sowie eine Datenbank 150 auf. In dem Vision System 110 sind alle optischen Komponenten des Sensorsystems 100 untergebracht. An einem Gehäuse des Vision Systems 110 ist eine Halterung 111 vorgesehen. Mittels dieser Halterung 111 ist zumindest das Vision System 110 an der stationären Haltestruktur 182 in mechanisch stabiler und räumlich fester Weise angebracht. Bevorzugt ist das Sensorsystem 100 (im Gegensatz zu der Darstellung von 1) als ein Modul aufgebaut, welches innerhalb einer kompakten Bauweise neben dem Vision System 110 auch noch die Datenverarbeitungseinrichtung 140 sowie die Datenbank 150 aufweist. Ein Anschluss 160 kann eine Schnittstelle zu einem angegliederten System, beispielsweise zu einem Überwachungssystem, sein, welchem System zumindest eine erkannte Objekteigenschaft signalisiert wird. Die entsprechenden Signalisierungsdaten können beispielsweise die Information enthalten, dass ein Fluchtweg blockiert ist, dass ein zur Fahndung ausgeschriebenes Nummernschild erkannt wurde, dass ein Parkplatz illegal belegt wurde, dass sich ein verdächtiger Gegenstand in der überwachten Szene 190 befindet, etc.The sensor system 100 has a vision system 110 , a data processing device 140 as well as a database 150 on. In the vision system 110 are all optical components of the sensor system 100 accommodated. On a housing of the vision system 110 is a holder 111 intended. By means of this holder 111 is at least the vision system 110 at the stationary support structure 182 mounted in a mechanically stable and spatially fixed manner. The sensor system is preferred 100 (in contrast to the representation of 1 ) is constructed as a module, which is within a compact design next to the vision system 110 also the data processing device 140 as well as the database 150 having. A connection 160 can be an interface to an affiliated system, for example to a monitoring system, which system is signaled at least one detected object property. The corresponding signaling data may include, for example, the information that an escape route is blocked, that a license plate advertised for the search was recognized, that a parking lot was illegally occupied, that a suspicious object is in the monitored scene 190 is located, etc.

Das Vision System 110 umfasst einen als Lichtfeldkamera 120 ausgebildeten Sensor zum räumlichen Erfassen einer Szene 190, in welcher sich ein Objekt 195 befindet. Die entsprechenden Sensordaten werden in Echtzeit an die Datenverarbeitungseinrichtung 140 übergeben. Gemäß dem hier dargestellten Ausführungsbeispiel wird basierend auf diesen Sensordaten die erfasste optische Szene 190 mittels geeigneter Methoden der Bildauswertung ausgewertet und dabei ein Bewegungsprofil des Objekts 195 ermittelt. Dazu werden innerhalb gewisser zeitliche Abstände jeweils ein Bild der Szene 190 erfasst, sodass die Datenverarbeitungseinrichtung 140 in der Lage ist, basierend auf entsprechenden Positionsverschiebungen des Objekts 195 nicht nur dessen Geschwindigkeit als Absolutwert sondern als Bewegungsvektor (mit einer Richtungsinformation) zu bestimmen. Eine Kenntnis des Bewegungsprofils des Objekts 195 kann dann in vorteilhafter Weise dazu verwendet werden, die beiden Motoren 187 in geeigneter Weise von der Datenverarbeitungseinrichtung 140 anzusteuern, wobei bei einer verschlossenen Öffnung 184 die Schiebetüren 186 lediglich dann geöffnet werden sollen, wenn sich das Objekt 195 tatsächlich in Richtung der Öffnung 184 bewegt. Falls es sich bei dem Objekt 195 um ein Fahrzeug eines sogenannten Querverkehrs handelt, welches sich im Wesentlichen an der Öffnung 184 vorbei bewegt, dann wird der entsprechende Bewegungsvektor von der Datenverarbeitungseinrichtung 140 erkannt und es unterbleibt ein Öffnen der Schiebetüren 186.The vision system 110 includes one as a light field camera 120 trained sensor for spatially detecting a scene 190 in which there is an object 195 located. The corresponding sensor data are sent to the data processing device in real time 140 to hand over. According to the exemplary embodiment illustrated here, the detected optical scene is based on this sensor data 190 evaluated by suitable methods of image analysis and thereby a motion profile of the object 195 determined. For this purpose, within a certain time intervals, a picture of the scene is created 190 detected, so that the data processing device 140 is able, based on corresponding positional shifts of the object 195 not only to determine its velocity as an absolute value but as a motion vector (with a directional information). A knowledge of the motion profile of the object 195 can then be used to advantage, the two motors 187 suitably from the data processing device 140 to drive, with a closed opening 184 the sliding doors 186 only be opened when the object 195 actually in the direction of the opening 184 emotional. If it is the object 195 is a vehicle of a so-called cross traffic, which is essentially at the opening 184 is moved past, then the corresponding motion vector from the data processing device 140 recognized and there is no opening of the sliding doors 186 ,

Nach einem Passieren des Objekts 195 durch die Öffnung 184 kann diese zügig wieder geschlossen werden, um ein Passieren von weiteren Objekten zu verhindern. In diesem Zusammenhang ist es offensichtlich, dass nicht nur der Zeitpunkt, zu dem die Öffnung freigegeben werden muss, sondern auch der Zeitraum, für den die Öffnung 184 offengehalten werden muss, von der Geschwindigkeit des Objekts 195 abhängt, mit der sich dieses in Richtung auf die Öffnung 184 und durch die Öffnung 184 hindurch bewegt. Durch eine Erkennung des Objekts 195 kann eine Optimierung des Betriebs der Eingangsstruktur 180 durch eine geeignete Ansteuerung der Motoren 187 erreicht werden: Für Menschen sollte ein Durchgang nämlich im Vergleich zu leblosen Objekten früher geöffnet und später geschlossen werden, um den Menschen die Angst vor einer Kollision mit den Schiebetüren 186 zu nehmen.After passing the object 195 through the opening 184 This can be quickly closed again to prevent passing of other objects. In this context, it is obvious that not only the time at which the opening must be released, but also the period for which the opening 184 must be kept open of the speed of the object 195 Depends on this in the direction of the opening 184 and through the opening 184 moved through. Through a recognition of the object 195 can optimize the operation of the input structure 180 by a suitable control of the motors 187 For a person, a passage should be opened sooner in comparison to inanimate objects, and should be closed later People are afraid of colliding with the sliding doors 186 to take.

Gemäß dem hier dargestellten Ausführungsbeispiel ist das Sensorsystem 100 ferner in der Lage, eine Objekterkennung vorzunehmen. Dazu greift die Datenverarbeitungseinrichtung 140 auf einen in der Datenbank 150 abgelegten Datensatz von Referenzobjekten zu, welche denjenigen Objekten entsprechen, welche autorisiert sind, die Öffnung 184 zu passieren. Dies bedeutet, dass bei einer geeigneten Annäherung des Objekts 195 an den Eingang 184 die Schiebetüren 186 lediglich dann geöffnet werden, wenn das erkannte Objekt 195 zumindest annähernd mit einem der hinterlegten Referenzobjekten übereinstimmt. Dies bedeutet anschaulich, dass bei der hier beschriebenen Verwendung des Sensorsystems 100 die Bedeckungscharakteristik der Öffnung 184 nicht nur von dem Bewegungsprofil des Objekts 195 abhängt, sondern dass auch noch eine Zugangskontrolle stattfindet.According to the embodiment shown here, the sensor system 100 Furthermore, able to make an object detection. This is done by the data processing device 140 to one in the database 150 filed record of reference objects that correspond to those objects that are authorized, the opening 184 to happen. This means that at a suitable approach of the object 195 to the entrance 184 the sliding doors 186 only be opened when the detected object 195 at least approximately coincident with one of the stored reference objects. This clearly indicates that in the use of the sensor system described here 100 the coverage characteristic of the opening 184 not just the movement profile of the object 195 depends, but that also an access control takes place.

Um die Szene 190 mit dem darin enthaltenen Objekt 195 mit möglichst hoher Genauigkeit (auch bei relativ schlechten Beleuchtungsverhältnissen) zu erfassen, weist das Sensorsystem 100 und genauer das Vision System 110 eine Beleuchtungseinrichtung 130 auf, welche ein Beleuchtungslicht 130a aussenden kann, um die Szene 190 zu erhellen. Gemäß dem hier dargestellten Ausführungsbeispiel weist die Beleuchtungseinrichtung zwei Beleuchtungseinheiten auf. Es wird darauf hingewiesen, dass die Beleuchtungseinrichtung 130 neben den in 1 dargestellten Beleuchtungseinheiten auch noch andere Beleuchtungseinheiten aufweisen kann, welche die Szene 190 aus einem anderen Winkel beleuchten. Ebenfalls können die beiden Beleuchtungseinheiten auch außerhalb des Gehäuses des Vision System 110 angeordnet und damit von der Lichtfeldkamera 120 weiter beabstandet sein.To the scene 190 with the object contained therein 195 detect with the highest possible accuracy (even with relatively poor lighting conditions), the sensor system has 100 and more specifically the vision system 110 a lighting device 130 on which a lighting light 130a can send out to the scene 190 to brighten up. According to the exemplary embodiment illustrated here, the illumination device has two illumination units. It should be noted that the lighting device 130 next to the in 1 Lighting units shown may also have other lighting units that the scene 190 illuminate from another angle. Also, the two lighting units can also be outside the housing of the vision system 110 arranged and thus by the light field camera 120 be further spaced.

Aus Gründen der Energieeffizienz sollte die Beleuchtungseinrichtung 130 derart betrieben werden, dass bei minimalem Energieverbrauch durch die Beleuchtungseinheiten eine möglichst genaue Szenenerfassung bzw. Objekterkennung möglich ist. Dafür können je nach Anwendungsfall verschiedene Maßnahmen ergriffen werden.For reasons of energy efficiency, the lighting device should 130 be operated such that with minimal energy consumption by the lighting units as accurate as possible scene detection or object detection is possible. Depending on the application, various measures can be taken.

(A) Die Szene 190 wird nicht kontinuierlich mit dem Beleuchtungslicht 130a erhellt sondern das Beleuchtungslicht 130a wird in Form von kurzen Lichtpulsen ausgesendet, sodass während dieser kurzen Lichtimpulse die Beleuchtungsintensität sehr hoch ist. Selbstverständlich muss in diesem Fall der Betrieb der Lichtfeldkamera 120 mit den Pulsen des Beleuchtungslichts 130a zeitlich synchronisiert werden. Die Zeitspannen zwischen zwei solchen „Pulsen von Belichtung und Bildaufnahme“ kann dabei von der Geschwindigkeit des Objekts 195 abhängen, welche zuvor bestimmt worden ist. Um das Bewegungsprofil möglichst genau zu bestimmen, ist es nämlich sinnvoll, bei schnell bewegten Objekten 195 die „belichteten Bildaufnahmen“ mit einer hohen Wiederholrate durchzuführen. Durch eine solche situationsadaptive repetitive Auswertung der Szene 190 kann ein guter Kompromiss zwischen Energieverbrauch insbesondere der Beleuchtungseinrichtung 130 und der Genauigkeit der Bestimmung des Bewegungsprofils (in Echtzeit) gefunden werden.(A) The scene 190 does not become continuous with the illumination light 130a but illuminates the illumination light 130a is emitted in the form of short light pulses, so that during these short light pulses, the illumination intensity is very high. Of course, in this case, the operation of the light field camera 120 with the pulses of the illumination light 130a be synchronized in time. The time periods between two such "pulses of exposure and image acquisition" may depend on the speed of the object 195 depend on which has been previously determined. In order to determine the movement profile as accurately as possible, it makes sense to move fast moving objects 195 to perform the "exposed images" with a high repetition rate. Through such a situation-adaptive repetitive evaluation of the scene 190 can be a good compromise between energy consumption especially the lighting device 130 and the accuracy of determining the motion profile (in real time).

(B) Die spektrale Verteilung des Beleuchtungslichts kann (adaptiv) an das optische Erscheinungsbild des Objekts 195 angepasst werden. Dazu wird dann bevorzugt eine spektrale Verteilung gewählt, welche für eine Beleuchtung sorgt, bei der das Objekt 195 möglichst gut erkannt werden kann.(B) The spectral distribution of the illumination light can be adaptive to the visual appearance of the object 195 be adjusted. For this purpose, a spectral distribution is preferably selected, which provides for an illumination in which the object 195 can be recognized as well as possible.

(C) Ferner kann das Beleuchtungslicht 131a eine zeitlich und/oder örtlich veränderliche Beleuchtungscharakteristik haben. Auch diese Beleuchtungscharakteristik kann adaptiv abhängig von den bisherigen Bildauswertungen des Objekts 195 durch die Datenverarbeitungseinrichtung 140 erfolgen. Bei einer örtlich inhomogenen Beleuchtungscharakteristik ist es natürlich sinnvoll, wenn diejenigen Teilbereiche der Szene 190, in denen sich das Objekt 195 befindet oder in denen das Objekt vermutet wird, mit einer im Vergleich zu den anderen Teilbereichen der Szene 190 höheren Beleuchtungsintensität beleuchtet werden.(C) Further, the illumination light 131 have a temporally and / or locally variable lighting characteristic. This lighting characteristic can also be adaptively dependent on the previous image evaluations of the object 195 by the data processing device 140 respectively. With a locally inhomogeneous lighting characteristic, it makes sense, of course, if those parts of the scene 190 in which the object is 195 or in which the object is suspected, with one compared to the other portions of the scene 190 be illuminated higher illumination intensity.

(D) Weitere Energieeinsparmöglichkeiten ergeben sich durch die Ausnutzung von unterschiedlichen Polarisationsrichtungen des Beleuchtungslichts 130a, welche insbesondere durch die Verwendung von Polarisationsfiltern eingestellt bzw. aus dem ursprünglich emittierten Licht herausgefiltert werden können.(D) Further energy saving possibilities result from the utilization of different polarization directions of the illumination light 130a which can be adjusted in particular by the use of polarizing filters or filtered out of the originally emitted light.

Es wird darauf hingewiesen, dass auch die Erfassung des von der Szene 190 eingefangenen Messlichts auf verschiedene Arten und Weisen durchgeführt werden kann, welche zu einer mehr oder weniger starken Energieeinsparung führen. Dies wird nachfolgend anhand der 3a, 3b, und 3c näher erläutert.It should be noted that also the capture of the scene 190 Captured light can be performed in various ways, which lead to a more or less strong energy savings. This will be explained below with reference to 3a . 3b , and 3c explained in more detail.

2 zeigt eine weiteren Verwendung bzw. einen weiteren Einsatz des Sensorsystems 100. Aus Gründen der Übersichtlichkeit ist in 2 lediglich das Vision System 110 des Sensorsystems 100 dargestellt. 2 shows a further use or a further use of the sensor system 100 , For clarity, is in 2 only the vision system 110 of the sensor system 100 shown.

Gemäß dem hier dargestellten Ausführungsbeispiel erfasst das Vision System 110 einen Verkehrsfluss von (verschiedenen) Objekten 295a, 295b, 295c, 295d und 295e, welche sich auf einem Förderband 298 befinden und entlang der durch einen Pfeil dargestellten Bewegungsrichtung durch eine Szene 290 hindurch bewegen. Eine zuverlässige Kenntnis der Anzahl und/oder der Art der Objekte 295a - 295e kann im Bereich der Logistik für eine Steuerung des Verkehrsflusses verwendet werden. Lediglich ein Beispiel für eine solche Steuerung eines Verkehrsfluss ist die Steuerung des Gepäcktransportes in einem Flughafen. Dabei können auch Etiketten auf den betreffenden Objekten 295a - 295e die Art des jeweiligen Objektes bestimmen. Es wird jedoch darauf hingewiesen, dass der Einsatz in einem Flughafen lediglich ein Beispiel von einer Vielzahl von anderen Anwendungsmöglichkeiten auf dem Gebiet der Verkehrsteuerung ist.According to the embodiment illustrated here, the vision system captures 110 a traffic flow of (different) objects 295a . 295b . 295c . 295d and 295E , which are on a conveyor belt 298 and along the direction of movement represented by an arrow a scene 290 move through. Reliable knowledge of the number and / or type of objects 295a - 295E can be used in the field of logistics for traffic flow control. Only one example of such a control of a traffic flow is the control of the luggage transport in an airport. It can also labels on the objects 295a - 295E determine the type of the respective object. It should be noted, however, that use in an airport is just one example of a variety of other traffic control applications.

3a bis 3c zeigen verschiedenen Ausführungsformen eines Sensorchips für die in 1 dargestellte Lichtfeldkamera, mit denen jeweils eine mehr oder weniger starke Energieeinsparung bei der Erfassung einer Szene realisiert werden kann. 3a to 3c show various embodiments of a sensor chip for in 1 shown light field camera, with each of which a more or less strong energy savings in the detection of a scene can be realized.

3a zeigt einen Sensorchip 321a bzw. dessen lichtsensitive Oberfläche 321a, welcher bzw. welche in unterschiedlichen Teilbereichen bzw. Sensorbereichen eine unterschiedliche räumliche Auflösung aufweist. Gemäß dem hier dargestellten Ausführungsbeispiel weist der Sensor Chip 321a drei unterschiedliche Sensorbereiche 322a und 326a auf. In dem ersten Sensorbereich 322a ist die räumliche Dichte der lichtsensitiven Pixel 324 so hoch, wie es die Halbleiter-Architektur des Sensor Chips 321a erlaubt. In den beiden Sensorbereichen 326a sind jeweils vier der lichtsensitiven Pixel (für eine volle Auflösung) zu einem übergeordneten Pixel 328 (für eine reduzierte Auflösung) zusammengefasst, sodass dieser eine im Vergleich zu einem einzelnen Pixel 324 eine vierfache Menge an Licht aufgesammelt. Dadurch wird die Lichtsensitivität des Sensorchips 321a (auf Kosten der räumlichen Auflösung) erhöht. Durch ein solches Zusammenfassen (Englisch „Binning“) wird die Energie, welche zum Auswerten des entsprechenden Bildbereiches der Szene benötigt wird, reduziert. Eine weitere vermutlich noch stärkere Möglichkeit der Energieeinsparung ergibt sich dadurch, dass im Falle einer Beleuchtung durch die vorstehend beschriebene Beleuchtungseinrichtung die entsprechenden Bildbereiche der Szene weniger stark oder eventuell sogar gar nicht beleuchtet werden müssen. 3a shows a sensor chip 321a or its light-sensitive surface 321a which has a different spatial resolution in different partial regions or sensor regions. According to the embodiment shown here, the sensor chip 321a three different sensor areas 322a and 326a on. In the first sensor area 322a is the spatial density of the light-sensitive pixels 324 as high as the semiconductor architecture of the sensor chip 321a allowed. In the two sensor areas 326a each are four of the light-sensitive pixels (for a full resolution) to a parent pixel 328 (for a reduced resolution), making it one compared to a single pixel 324 a fourfold amount of light collected. This will change the light sensitivity of the sensor chip 321a (at the expense of spatial resolution) increased. By such a summarizing (English "Binning") the energy needed to evaluate the corresponding image area of the scene is reduced. Another probably even greater possibility of saving energy results from the fact that in the case of illumination by the lighting device described above, the corresponding image areas of the scene less or possibly even not need to be illuminated.

Es wird darauf hingewiesen, dass eine solche ungleiche räumliche Auflösung dann nicht zu einer reduzierten Erkennungssicherheit eines Objekts führt, wenn die Teilbereiche der Szene, in welchen sich das Objekt befindet, mit der vollen Auflösung erfasst werden, und andere Teilbereiche der Szene, insbesondere Hintergründe, mit der niedrigen Auflösung erfasst werden. Es wird ferner darauf hingewiesen, dass das beschriebene Zusammenfassen von Pixeln bei manchen Sensorchips auch dynamisch bzw. adaptiv in genau den Teilbereichen durchgeführt werden kann, in denen sich gerade das Objekt befindet. In Falle einer nicht adaptiven Zusammenfassung von Pixeln können die verschiedenen Sensorbereiche auch mittels unterschiedlichen Sensorchips realisiert werden. Dies hat den Vorteil, dass die Kosten für die unterschiedlichen Sensorchips niedriger sein können als ein solcher Sensorchip mit einer adaptiv einstellbaren räumlichen Auflösung.It should be noted that such an unequal spatial resolution does not lead to a reduced recognition reliability of an object when the subregions of the scene in which the object is located are captured with the full resolution, and other subregions of the scene, in particular backgrounds, be detected with the low resolution. It is further pointed out that the described summarization of pixels in some sensor chips can also be carried out dynamically or adaptively in exactly the subregions in which the object is currently located. In the case of a non-adaptive combination of pixels, the different sensor areas can also be realized by means of different sensor chips. This has the advantage that the costs for the different sensor chips can be lower than such a sensor chip with an adaptively adjustable spatial resolution.

3b zeigt einen Sensorchip 321b, welcher entlang unterschiedlicher Koordinatenrichtungen eine unterschiedliche räumliche Auflösung aufweist. Eine solche asymmetrische Auflösung kann durch ein Zusammenfassen von Pixeln erfolgen, wobei entlang der einen Richtung eine geringere Anzahl an Pixeln zusammengefasst wird als entlang der anderen Richtung. Dabei kann die geringere Anzahl auch eins sein, d. h. es findet dann kein Zusammenfassen von Pixeln statt. Auch hier kann die Anzahl an Pixeln, die zusammengefasst werden, von der Datenverarbeitungseinrichtung adaptiv unabhängig von den bisherigen bzw. zu erwartenden Objektpositionen eingestellt werden. 3b shows a sensor chip 321b which has a different spatial resolution along different coordinate directions. Such asymmetric resolution can be achieved by combining pixels, with a smaller number of pixels merged along one direction than along the other direction. In this case, the smaller number can also be one, ie there is no aggregation of pixels. Again, the number of pixels that are combined can be adjusted adaptively by the data processing device independent of the previous or expected object positions.

Gemäß dem dargestellten Ausführungsbeispiel ist die Auflösung entlang einer y-Richtung die volle Auflösung, welche der Sensorchip 321b ermöglicht. Diese Auflösung entspricht der Beabstandung zweier Pixel entlang der y-Richtung und ist in 3b mit „d“ bezeichnet. Im Gegensatz dazu ist die Auflösung entlang der x-Richtung nur halb so hoch, weil jeweils zwei einzelne Pixeln zu einem übergeordneten Pixel zusammengefasst wurden. Die Auflösung entlang der x-Richtung entspricht damit dem doppelten Abstand zwischen zwei benachbarten einzelnen Pixeln und ist in 3b mit „2d“ bezeichnet.According to the illustrated embodiment, the resolution along a y-direction is the full resolution that the sensor chip 321b allows. This resolution corresponds to the spacing of two pixels along the y-direction and is in 3b With " d " designated. In contrast, the resolution along the x-direction is only half as high, because each two individual pixels have been combined into one parent pixel. The resolution along the x direction thus corresponds to twice the distance between two adjacent individual pixels and is in 3b With " 2d " designated.

3c zeigt einen Sensorchip 321c, welcher in unterschiedlichen Sensorbereichen eine unterschiedliche spektrale Empfindlichkeit aufweist. 322. In einem ersten Sensorbereich 322c ist der Sensorchip 321c optimiert auf eine Detektion von Licht im sichtbaren Spektralbereich. Dies ist in 3c durch die Bezeichnung „RGB“ veranschaulicht. In dem zweiten Sensorbereich 326c ist der Sensorchip 321c optimiert auf eine Detektion vom Licht im infraroten Spektralbereich. Dies ist in 3c durch die Bezeichnung „IR“ veranschaulicht. 3c shows a sensor chip 321c which has a different spectral sensitivity in different sensor areas. 322 , In a first sensor area 322c is the sensor chip 321c optimized for detection of light in the visible spectral range. This is in 3c by the name " RGB "Illustrated. In the second sensor area 326c is the sensor chip 321c optimized for detection of light in the infrared spectral range. This is in 3c by the name " IR "Illustrated.

Es wird darauf hingewiesen, dass die räumliche feste und nicht veränderliche Aufteilung in die beiden Sensorbereiche 322c und 326c eine Ausführungsform darstellt, bei der geeignete optische Strahlformungssysteme verwendet werden sollten, damit ein und dieselbe Szene von beiden Sensorbereichen 322c und 326c erfasst werden können. Dabei kann insbesondere ein Strahlteiler zum Einsatz kommen.It should be noted that the spatial fixed and non-variable division into the two sensor areas 322c and 326c an embodiment in which suitable optical beamforming systems should be used to allow one and the same scene from both sensor areas 322c and 326c can be detected. In particular, a beam splitter can be used.

In einer anderen aus Gründen der Übersichtlichkeit in diesem Dokument nicht dargestellten Ausführungsformen sind die beiden Sensorbereiche 322c und 326c miteinander verschachtelt. Dies bedeutet, dass in der Ebene des Sensorchips 321c die RGB Pixel und die IR Pixel jeweils abwechselnd angeordnet sind und bevorzugt dynamisch bzw. adaptiv aktiviert werden können. Ebenfalls denkbar sind Ausführungsformen, bei denen zunächst eine Bilderfassung lediglich im sichtbaren Bereich (RGB) vorgenommen wird und unmittelbar bzw. möglichst kurz danach eine zweite Bilderfassung im infraroten Bereich (IR) vorgenommen wird (beispielsweise durch Einschieben eines Filters) und später die entsprechenden Bildinformationen aus den beiden Spektralbereich gemeinsam von der Datenverarbeitungseinrichtung ausgewertet werden. Selbstverständlich sind auch andere Kombinationen von in unterschiedlichen Spektralbereich erfassten Bildinformationen möglich.In another, for clarity, not shown in this document Embodiments are the two sensor areas 322c and 326c nested together. This means that in the plane of the sensor chip 321c the RGB Pixels and the IR Pixels are each arranged alternately and preferably can be activated dynamically or adaptively. Also conceivable are embodiments in which initially an image acquisition only in the visible range ( RGB ) and immediately or shortly thereafter a second image capture in the infrared range ( IR ) is performed (for example, by inserting a filter) and later the corresponding image information from the two spectral range are evaluated jointly by the data processing device. Of course, other combinations of image information acquired in different spectral range are possible.

Zuletzt sei angemerkt, dass der Begriff „aufweisen“ nicht andere Elemente ausschließt und dass das „ein“ nicht eine Mehrzahl ausschließt. Auch können Elemente, die in Zusammenhang mit unterschiedlichen Ausführungsbeispielen beschrieben sind, kombiniert werden. Es sollte auch angemerkt werden, dass Bezugszeichen in den Ansprüchen nicht als den Schutzbereich der Ansprüche beschränkend ausgelegt werden sollen.Finally, it should be noted that the term "comprising" does not exclude other elements and that the "on" does not exclude a plurality. Also, elements described in connection with different embodiments may be combined. It should also be noted that reference signs in the claims should not be construed as limiting the scope of the claims.

BezugszeichenlisteLIST OF REFERENCE NUMBERS

100100
Sensorsystemsensor system
110110
Vision SystemVision system
111111
Halterungholder
120120
Sensor / LichtfeldkameraSensor / light field camera
130130
Beleuchtungseinrichtunglighting device
130a130a
Beleuchtungslichtillumination light
140140
DatenverarbeitungseinrichtungData processing device
150150
DatenbankDatabase
160160
Anschlussconnection
180180
Eingangsstrukturinput structure
182182
stationäre Haltestrukturstationary holding structure
184184
Öffnung / EingangOpening / entrance
186186
Verschließkörper / SchiebetürClosing body / sliding door
187187
Motorengine
190190
Szenescene
195195
Objekt object
290290
Szenescene
295a-e295a-e
Objekteobjects
298298
Förderband conveyor belt
321a-c321a-c
lichtsensitive Oberfläche / Sensorchiplight-sensitive surface / sensor chip
322a/c322a / c
erster Sensorbereichfirst sensor area
324324
Pixelpixel
326a/c326a / c
zweiter Sensorbereichsecond sensor area
328328
übergeordnete Pixelparent pixels

ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION

Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.

Zitierte PatentliteraturCited patent literature

  • US 7984590 [0005]US 7984590 [0005]
  • EP 2453252 B1 [0006]EP 2453252 B1 [0006]

Claims (21)

Sensorsystem (100) zum Bestimmen der Charakteristik einer Szene (190), das Sensorsystem (100) aufweisend einen auf dem Prinzip einer Lichtfeldkamera basierenden Sensor (120) zum dreidimensionalen optischen Erfassen der Szene (190); und eine dem optischen Sensor nachgeschaltete Datenverarbeitungseinrichtung (140) zum Auswerten der optisch erfasste Szene (190), wobei die Datenverarbeitungseinrichtung (140) derart konfiguriert ist, dass von einem in der Szene (190) enthaltenen Objekt (195) in Echtzeit Bewegungsprofile bestimmbar sind.A sensor system (100) for determining the characteristic of a scene (190), the sensor system (100) comprising a sensor based on the principle of a light field camera (120) for three-dimensional optical detection of the scene (190); and a data processing device (140) connected downstream of the optical sensor for evaluating the optically detected scene (190), wherein the data processing device (140) is configured such that motion profiles can be determined in real time from an object (195) contained in the scene (190). Sensorsystem (100) gemäß dem vorangehenden Anspruch, ferner aufweisend eine Halterung (111), welche mit dem Sensor (120) mechanisch gekoppelt ist, wobei die Halterung (111) derart ausgebildet ist, dass das Sensorsystem (100) an einer in Bezug auf die zu erfassende Szene (190) stationären Haltestruktur (182) anbringbar ist.Sensor system (100) according to the preceding claim, further comprising a holder (111), which is mechanically coupled to the sensor (120), wherein the holder (111) is formed such that the sensor system (100) at one with respect scene to be detected (190) stationary support structure (182) is attachable. Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, wobei die Datenverarbeitungseinrichtung (140) ferner derart konfiguriert ist, dass eine Bedeckungscharakteristik einer von dem Objekt (195) zu passierenden Öffnung (184) durch zumindest einen Verschließkörper (186) steuerbar ist.Sensor system (100) according to one of the preceding claims, wherein the data processing device (140) is further configured such that a coverage characteristic of an opening (184) to be passed by the object (195) is controllable by at least one closure body (186). Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, wobei der Sensor (120) einen Lichtdetektor (321a) mit einer Mehrzahl von Pixeln (324) aufweist und wobei der Sensor (120) konfiguriert ist, die Szene (190) basierend auf zumindest einem der folgenden Merkmale von detektierter optischer Strahlung zu erfassen: - Intensität auf zumindest einem Pixel (324), - Intensitätsunterschiede zwischen verschiedenen Pixeln (324), - Wellenlänge, - Spektrale Intensitätsverteilung, - Polarisationsrichtung, und - Intensitätsverteilung für unterschiedliche Polarisationsrichtungen.The sensor system (100) of any of the preceding claims, wherein the sensor (120) includes a light detector (321a) having a plurality of pixels (324), and wherein the sensor (120) is configured to image the scene (190) based on at least one of To detect the following characteristics of detected optical radiation: Intensity on at least one pixel (324), Intensity differences between different pixels (324), - wavelength, - spectral intensity distribution, - Polarization direction, and - Intensity distribution for different polarization directions. Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, wobei der Sensor (120) eine räumliche Auflösung aufweist, die in unterschiedlichen Teilbereichen (322a, 326a) einer lichtsensitiven Oberfläche (321a) des Sensors (120) unterschiedlich ist.Sensor system (100) according to one of the preceding claims, wherein the sensor (120) has a spatial resolution which is different in different sub-areas (322a, 326a) of a light-sensitive surface (321a) of the sensor (120). Sensorsystem (100) gemäß dem vorangehenden Anspruch, wobei die räumliche Auflösung des Sensors dynamisch an unterschiedliche Charakteristiken der Szene (190) anpassbar ist.A sensor system (100) according to the preceding claim, wherein the spatial resolution of the sensor is dynamically adaptable to different characteristics of the scene (190). Sensorsystem (100) gemäß einem der beiden vorangehenden Ansprüche, wobei die Auflösung des Sensors (120) durch ein Zusammenfassen von benachbarten Pixeln (324) der lichtsensitiven Oberfläche (321a) des Sensors (120) anpassbar ist.A sensor system (100) according to one of the two preceding claims, wherein the resolution of the sensor (120) is adaptable by combining adjacent pixels (324) of the light-sensitive surface (321a) of the sensor (120). Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, wobei der Sensor (120) eine räumliche Auflösung aufweist, die entlang unterschiedlicher Koordinatenrichtungen (x, y) unterschiedlich ist.Sensor system (100) according to one of the preceding claims, wherein the sensor (120) has a spatial resolution that is different along different coordinate directions (x, y). Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, wobei der Sensor (321c) aufweist einen ersten Sensorbereich (322c) für zumindest ein erstes charakteristisches Merkmal von detektierter optischer Strahlung und einen zweiten Sensorbereich (326c) für zumindest ein zweites charakteristisches Merkmal von detektierter optischer Strahlung, wobei das zweite charakteristische Merkmal unterschiedlich ist zu dem ersten charakteristischen Merkmal.A sensor system (100) according to any one of the preceding claims, wherein the sensor (321c) comprises a first sensor region (322c) for at least a first characteristic of detected optical radiation and a second sensor region (326c) for at least a second characteristic of detected optical radiation, the second characteristic being different than the first characteristic feature. Sensorsystem (100) gemäß dem vorangehenden Anspruch, wobei das erste charakteristisches Merkmal eine erste spektrale Verteilung ist und das zweite charakteristische Merkmal eine zweite spektrale Verteilung ist, wobei die zweite spektrale Verteilung unterschiedlich ist zu der ersten spektralen Verteilung.A sensor system (100) according to the preceding claim, wherein the first characteristic feature is a first spectral distribution and the second characteristic feature is a second spectral distribution, the second spectral distribution being different from the first spectral distribution. Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, ferner aufweisend eine Beleuchtungseinrichtung (130) zum Beleuchten der Szene (190) mit einem Beleuchtungslicht (130a), welches eine vorbestimmte Beleuchtungscharakteristik aufweist.A sensor system (100) according to any one of the preceding claims, further comprising illuminating means (130) for illuminating the scene (190) with an illumination light (130a) having a predetermined illumination characteristic. Sensorsystem (100) gemäß dem vorangehenden Anspruch, wobei die Beleuchtungseinrichtung (130) konfiguriert ist, das Beleuchtungslicht (130a) mit einer zeitlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die zeitliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung (140) ausgewerteten Szene (190) abhängt.Sensor system (100) according to the preceding claim, wherein the illumination device (130) is configured to emit the illumination light (130a) with a time-varying illumination characteristic, wherein in particular the temporal change of the illumination characteristic is dependent on the result of the scene evaluated by the data processing device (140). 190). Sensorsystem (100) gemäß dem einem der beiden vorangehenden Ansprüche, wobei die Beleuchtungseinrichtung (130) konfiguriert ist, das Beleuchtungslicht (130a) mit einer örtlich veränderlichen Beleuchtungscharakteristik auszusenden, wobei insbesondere die örtliche Veränderung der Beleuchtungscharakteristik von dem Ergebnis der von der Datenverarbeitungseinrichtung (140) ausgewerteten Szene (190) abhängt.Sensor system (100) according to one of the two preceding claims, wherein the illumination device (130) is configured to emit the illumination light (130a) with a locally variable illumination characteristic, wherein in particular the local variation of the illumination characteristic is dependent on the result obtained by the data processing device (140). evaluated scene (190) depends. Sensorsystem (100) gemäß dem einem der drei vorangehenden Ansprüche, wobei die Beleuchtungscharakteristik durch zumindest eines der folgenden Merkmale bestimmt ist: - Intensität für zumindest einen Teilbereich der Szene, - Intensitätsunterschiede zwischen verschiedenen Teilbereichen der Szene, - Wellenlänge, - Spektrale Intensitätsverteilung, - Polarisationsrichtung, - Intensitätsverteilung für unterschiedliche Polarisationsrichtungen.Sensor system (100) according to one of the three preceding claims, wherein the Lighting characteristic is determined by at least one of the following features: intensity for at least a portion of the scene, intensity differences between different subregions of the scene, wavelength, spectral intensity distribution, polarization direction, intensity distribution for different polarization directions. Verfahren zum Bestimmen der Charakteristik einer Szene (190) mit einem Sensorsystem (100), insbesondere mit einem Sensorsystem (100) gemäß einem der vorangehenden Ansprüche, das Verfahren aufweisend dreidimensionales optischen Erfassen der Szene (190) und eines in der Szene enthaltenen Objekts (195) mittels eines auf dem Prinzip einer Lichtfeldkamera basierender Sensors (120); und Auswerten der optisch erfassten Szene (190) mittels einer dem Sensor (120) nachgeschalteten Datenverarbeitungseinrichtung (140), wobei von einem in der Szene (190) enthaltenen Objekt (195) in Echtzeit Bewegungsprofile bestimmt werden.Method for determining the characteristic of a scene (190) with a sensor system (100), in particular with a sensor system (100) according to one of the preceding claims, comprising the method three-dimensional optical detection of the scene (190) and of an object (195) contained in the scene by means of a sensor (120) based on the principle of a light field camera; and Evaluating the optically recorded scene (190) by means of a data processing device (140) connected downstream of the sensor (120), motion profiles being determined in real time by an object (195) contained in the scene (190). Verfahren gemäß dem vorangehenden Anspruch, ferner aufweisend Beleuchten der Szene (190) mit einem Beleuchtungslicht (130a), welches von einer Beleuchtungseinrichtung (130) ausgesandt wird und welches eine vorbestimmte Beleuchtungscharakteristik aufweist, wobei die Beleuchtungscharakteristik für einen vorgegebenen Teilbereich der Szene (190) eine bestimmte maximale Beleuchtungsintensität aufweist.A method according to the preceding claim, further comprising illuminating the scene (190) with an illuminating light (130a) emitted by a illuminator (130) and having a predetermined illumination characteristic, the illuminance characteristic for a predetermined portion of the scene (190) has certain maximum illumination intensity. Verfahren gemäß einem der beiden vorangehenden Ansprüche, ferner aufweisend Vergleichen des erfassten Objekts (195) mit zumindest einem Vergleichsobjekt; und, wenn das Objekt (195) innerhalb vorgegebener zulässiger Abweichungen mit einem Vergleichsobjekt übereinstimmt, Identifizieren des Objekts (195) als ein für eine bestimmte Aktion zugelassenes Objekt.The method according to one of the two preceding claims, further comprising Comparing the detected object (195) with at least one comparison object; and, if the object (195) agrees with a comparison object within predetermined permissible deviations, identifying the object (195) as an object permitted for a particular action. Verwendung eines Sensorsystems (100) mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor (120), insbesondere eines Sensorsystems (100) gemäß einem der vorangehenden Ansprüche 1 bis 14, für ein Steuern einer Bedeckungscharakteristik einer von einem Objekt (195) zu passierenden Öffnung (184) durch zumindest einen Verschließkörper (186).Use of a sensor system (100) with a sensor (120) based on the principle of a light field camera, in particular a sensor system (100) according to one of the preceding Claims 1 to 14 for controlling a coverage characteristic of an opening (184) to be passed from an object (195) through at least one closure body (186). Verwendung gemäß dem vorangehenden Anspruch, wobei die Öffnung ein Eingang (184) oder ein Ausgang ist, insbesondere ein Notausgang in einem Gebäude.Use according to the preceding claim, wherein the opening is an entrance (184) or an exit, in particular an emergency exit in a building. Verwendung gemäß einem der beiden vorangehenden Ansprüche, wobei das Objekt (195) eine Person oder ein Fahrzeug ist.Use according to one of the two preceding claims, wherein the object (195) is a person or a vehicle. Verwendung eines Sensorsystems (100) mit einem auf dem Prinzip einer Lichtfeldkamera basierenden Sensor (120), insbesondere eines Sensorsystems (100) gemäß einem der vorangehenden Ansprüche 1 bis 14, für ein Erfassen und/oder Steuern von Verkehrsströmen von Objekten (195), welche sich durch eine Szene (190) des Sensorsystems (100) bewegen, wobei die Szene (190) durch einen räumlichen Erfassungsbereich des Sensorsystems (100) bestimmt ist.Use of a sensor system (100) with a sensor (120) based on the principle of a light field camera, in particular a sensor system (100) according to one of the preceding Claims 1 to 14 for detecting and / or controlling traffic flows of objects (195) moving through a scene (190) of the sensor system (100), the scene (190) being determined by a spatial detection range of the sensor system (100).
DE102017129663.8A 2017-12-12 2017-12-12 Sensor system with a light field camera for determining the characteristic of a scene Withdrawn DE102017129663A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102017129663.8A DE102017129663A1 (en) 2017-12-12 2017-12-12 Sensor system with a light field camera for determining the characteristic of a scene

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102017129663.8A DE102017129663A1 (en) 2017-12-12 2017-12-12 Sensor system with a light field camera for determining the characteristic of a scene

Publications (1)

Publication Number Publication Date
DE102017129663A1 true DE102017129663A1 (en) 2019-06-13

Family

ID=66629575

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102017129663.8A Withdrawn DE102017129663A1 (en) 2017-12-12 2017-12-12 Sensor system with a light field camera for determining the characteristic of a scene

Country Status (1)

Country Link
DE (1) DE102017129663A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7984590B2 (en) 2003-09-17 2011-07-26 Thk Co., Ltd. Automatic door apparatus
EP2453252A1 (en) 2010-11-15 2012-05-16 Cedes AG Energy efficient 3D sensor
US20140342331A1 (en) * 2013-05-17 2014-11-20 Zoll Medical Corporation Cameras for emergency rescue

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7984590B2 (en) 2003-09-17 2011-07-26 Thk Co., Ltd. Automatic door apparatus
EP2453252A1 (en) 2010-11-15 2012-05-16 Cedes AG Energy efficient 3D sensor
US20140342331A1 (en) * 2013-05-17 2014-11-20 Zoll Medical Corporation Cameras for emergency rescue

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Plenoptische Kamera. Aus: Wikipedia, der freien Enzyklopädie; Bearbeitungsstand: 02.12.2017;URL: https://de.wikipedia.org/w/index.php?title=Plenoptische_Kamera&oldid=171608810 [abgerufen am 22.11.2018] *

Similar Documents

Publication Publication Date Title
EP3147823B1 (en) Device and method for direct optical recording of documents and/or living areas of skin without imaging optical elements
DE112017001112T5 (en) Method and apparatus for an actively pulsed 4D camera for image acquisition and analysis
EP3033251A1 (en) Sensor array for detecting control gestures on vehicles
EP2915922B1 (en) Method for operating a vehicle barrier
EP2306425B1 (en) Device and method for detecting wheel axles
WO2017041915A1 (en) Sensor system of a sensor device of a motor vehicle
DE102007022523A1 (en) motor vehicle
DE102019112338A1 (en) 3D sensor system, can be operated in different operating modes depending on the operating state of a closure body
EP3696537A1 (en) Device and method for detecting damage to a moving vehicle
EP3724676A1 (en) Sensor system for three-dimensionally detecting a scene with different photon accumulations
DE102017129663A1 (en) Sensor system with a light field camera for determining the characteristic of a scene
EP3724601B1 (en) Distance determination based on different depth of field areas with different focus settings of an objective lens
EP3513248B1 (en) Sensing device for capturing a facial image of a person
Hao et al. A near-infrared imaging method for capturing the interior of a vehicle through windshield
DE102017129654A1 (en) 3D scene capture based on light transit times and a characteristic feature of detected electromagnetic waves
DE102017129641A1 (en) 3D sensor system with a free-form optics
WO2020229190A1 (en) Identifying an object on the basis of recognising part of the object and on the basis of description data of a reference object
DE102014205282A1 (en) Device for opening or closing an opening of a vehicle
DE102017129639A1 (en) 3D sensor system with scene lighting dependent on a solid angle
Morris et al. Sensing for hov/hot lanes enforcement
DE102010046219A1 (en) Method and device for detecting and / or assessing three-dimensional elevated structures on a surface of a document
DE102015115096A1 (en) Sensor arrangement for the optical detection of operating gestures on vehicles
DE102019112340A1 (en) TOF sensor system with a lighting device with an array of individual light sources
Pananikolopoulos Sensing for HOV/HOT lanes enforcement
DE102020200569A1 (en) Device for biometric identification with the aid of fingerprints and / or hand characteristics and methods for biometric identification with the aid of these characteristics

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee