DE102017122627A1 - Optical measuring system and measuring method - Google Patents
Optical measuring system and measuring method Download PDFInfo
- Publication number
- DE102017122627A1 DE102017122627A1 DE102017122627.3A DE102017122627A DE102017122627A1 DE 102017122627 A1 DE102017122627 A1 DE 102017122627A1 DE 102017122627 A DE102017122627 A DE 102017122627A DE 102017122627 A1 DE102017122627 A1 DE 102017122627A1
- Authority
- DE
- Germany
- Prior art keywords
- image data
- optical
- evaluation
- camera
- optical markers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/46—Indirect determination of position data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
- G01C11/12—Interpretation of pictures by comparison of two or more pictures of the same area the pictures being supported in the same relative position as when they were taken
- G01C11/26—Interpretation of pictures by comparison of two or more pictures of the same area the pictures being supported in the same relative position as when they were taken using computers to control the position of the pictures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/87—Combinations of systems using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/586—Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10152—Varying illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Die vorliegende Erfindung betrifft ein optisches Messsystem (10), aufweisend: mehrere optische Marker (14), welche an einem zu messenden Objekt (12) anbringbar sind; eine Beleuchtungseinrichtung (16) zur Beleuchtung des Objekts (12) und der optischen Marker (14); ein Kamerasystem (18) zur Aufnahme von Bilddaten des Objekts (12) und der optischen Marker (14); und eine Auswerte- und Steuereinheit (20), welche dazu eingerichtet ist, die Beleuchtungseinrichtung (16) zu steuern, mindestens drei unterschiedliche Beleuchtungsszenarien zu erzeugen, und das Kamerasystem (18) zu steuern, bei einem ersten der mindestens drei Beleuchtungsszenarien erste Bilddaten aufzunehmen, bei einem zweiten der mindestens drei Beleuchtungsszenarien zweite Bilddaten aufzunehmen und bei einem dritten der mindestens drei Beleuchtungsszenarien dritte Bilddaten aufzunehmen, wobei die Auswerte- und Steuereinheit (20) ferner dazu eingerichtet ist, mit Hilfe einer photometrischen Stereoanalyse anhand der ersten, zweiten und dritten Bilddaten eine räumliche Orientierung der optischen Marker (14) zu bestimmen, und wobei die Auswerte- und Steuereinheit (20) dazu eingerichtet ist, mit Hilfe einer photogrammetrischen Auswertung anhand der ersten, zweiten oder dritten Bilddaten oder anhand von vierten mit dem Kamerasystem (18) aufgenommenen Bilddaten räumliche Positionskoordinaten von zumindest drei der optischen Marker (14) zu bestimmen. The present invention relates to an optical measuring system (10), comprising: a plurality of optical markers (14) which can be attached to an object (12) to be measured; an illumination device (16) for illuminating the object (12) and the optical marker (14); a camera system (18) for capturing image data of the object (12) and the optical markers (14); and an evaluation and control unit (20), which is set up to control the illumination device (16), to generate at least three different illumination scenarios, and to control the camera system (18) to record first image data in a first of the at least three illumination scenarios, in a second of the at least three lighting scenarios, to acquire second image data and to record third image data in a third of the at least three lighting scenarios, wherein the evaluation and control unit (20) is further configured to use a photometric stereo analysis based on the first, second and third image data determine spatial orientation of the optical markers (14), and wherein the evaluation and control unit (20) is adapted to, with the aid of a photogrammetric evaluation based on the first, second or third image data or on the basis of fourth with the camera system (18) recorded image data spatial position co-ordinate at least three of the optical markers (14).
Description
Die vorliegende Erfindung betrifft ein optisches Messsystem zur photogrammetrischen Messung eines zu messenden Objekts. Die vorliegende Erfindung betrifft des Weiteren ein entsprechendes Messverfahren sowie ein Computerprogrammprodukt zur Ausführung des Messverfahrens.The present invention relates to an optical measuring system for the photogrammetric measurement of an object to be measured. The present invention further relates to a corresponding measuring method and to a computer program product for carrying out the measuring method.
Das erfindungsgemäße Messsystem weist mehrere optische Marker auf, welche an dem zu messenden Objekt anbringbar sind. Ferner weist das Messsystem eine Beleuchtungseinrichtung zur Beleuchtung des Objekts und der optischen Marker auf. Des Weiteren weist das Messsystem ein Kamerasystem zur Aufnahme von Bilddaten sowie eine Auswerte- und Steuereinheit zur Steuerung der Beleuchtungseinrichtung und des Kamerasystems als auch zur Auswertung der von dem Kamerasystem aufgenommenen Bilddaten auf.The measuring system according to the invention has a plurality of optical markers which can be attached to the object to be measured. Furthermore, the measuring system has a lighting device for illuminating the object and the optical markers. Furthermore, the measuring system has a camera system for recording image data and an evaluation and control unit for controlling the illumination device and the camera system as well as for evaluating the image data recorded by the camera system.
Ein gattungsgemäßes Messsystem dieser Art ist beispielsweise aus der
Mit Hilfe eines photogrammetrischen Messsystems lässt sich die dreidimensionale Position von optischen Markern im Raum durch eine oder mehrere kalibrierte Kameras sehr genau bestimmten. Die zu erfassenden optischen Marker, welche häufig auch als Tracking-Marker bezeichnet werden, können beispielsweise kreisrunde Marker aus Papier mit schwarzem Rand und hellem Zentrum sein. Grundsätzlich sind aber auch andere Arten von optischen Markern (Form, Muster und Material) denkbar. Für die photogrammetrische Messung ist es allerdings meist wichtig dass das Zentrum des optischen Markers gekennzeichnet ist oder sich in eindeutiger Weise bestimmen lässt.Using a photogrammetric measuring system, the three-dimensional position of optical markers in space can be very precisely determined by one or more calibrated cameras. The optical markers to be detected, which are often referred to as tracking markers, may be, for example, circular markers made of paper with a black border and a bright center. In principle, however, other types of optical markers (shape, pattern and material) are also conceivable. For the photogrammetric measurement, however, it is usually important that the center of the optical marker is characterized or can be clearly determined.
Die aus der
Während des Messprozesses werden bei derartigen optischen Messsystemen die in der Szene befindlichen optischen Marker durch eine oder mehrere kalibrierte Kameras aus einer oder mehreren Blickrichtungen erfasst. Um die dreidimensionalen Koordinaten der optischen Marker aus den Kamerabildern zu berechnen, müssen in einem ersten Schritt zunächst in jedem Bild der einen oder mehreren Kameras alle optischen Marker detektiert und die zweidimensionale Bildposition in Pixelkoordinaten jedes einzelnen optischen Markers gemessen werden. Dieser erste Schritt der photogrammetrischen Messung wird üblicherweise als Bildmessung bezeichnet. In weiteren Berechnungsschritten, welche als Bündelblockausgleichung bezeichnet werden, kann dann aus den Bildpositionen der optischen Marker die dreidimensionale Position im Raum bestimmt werden.During the measuring process, in such optical measuring systems, the optical markers in the scene are detected by one or more calibrated cameras from one or more viewing directions. In order to calculate the three-dimensional coordinates of the optical markers from the camera images, in a first step all optical markers must first be detected in each image of the one or more cameras and the two-dimensional image position must be measured in pixel coordinates of each individual optical marker. This first step of photogrammetric measurement is commonly referred to as image measurement. In further calculation steps, which are referred to as bundle block adjustment, the three-dimensional position in space can then be determined from the image positions of the optical markers.
In der industriellen Anwendung ist ein solches optisches Messsystem oftmals so ausgestaltet, dass in Bezug auf das Messvolumen fest installierte Kameras und fest installierte Lichtquellen verwendet werden. Zur Messung wird das zu messende Objekt im Sichtbereich der Kameras platziert.In industrial applications, such an optical measuring system is often designed in such a way that permanently installed cameras and permanently installed light sources are used in relation to the measuring volume. For measurement, the object to be measured is placed in the field of view of the cameras.
Optische Messsysteme dieser Art dienen beispielsweise dazu, im Rahmen einer Qualitätssicherung Werkstücke zu überprüfen oder die Geometrie eines Werkstücks vollständig im Rahmen eines so genannten „Reverse Engineering“ zu ermitteln. Darüber hinaus sind vielfältige weitere Anwendungsmöglichkeiten denkbar, wie zum Beispiel prozesssteuernde Anwendungen, bei denen die Messtechnik direkt zur Online-Überwachung und -Regelung von Fertigungs- und Bearbeitungsprozessen angewendet wird. Ein häufiges Anwendungsbeispiel ist die Überprüfung von Fahrzeugkarosseriebauteilen auf eventuelle Fertigungsfehler. Grundsätzlich können derartige optische Messsysteme jedoch auch zur Vermessung jeglicher Art von Messobjekten verwendet werden.Optical measuring systems of this type are used, for example, to check workpieces within the scope of a quality assurance or to determine the geometry of a workpiece completely within the framework of a so-called "reverse engineering". In addition, a variety of other application options are conceivable, such as process-controlling applications in which the measurement technology is used directly for online monitoring and control of manufacturing and machining processes. A common application example is the inspection of vehicle body components for possible manufacturing defects. In principle, however, such optical measuring systems can also be used for measuring any type of measuring objects.
Die zur Messung verwendeten optischen Marker können, müssen jedoch nicht zwangsläufig direkt an dem zu vermessenden Werkstück angebracht werden. Alternativ dazu lassen sich die optischen Marker auch an einer handgeführten Messvorrichtung anbringen, wie dies aus der
Eine weitere Möglichkeit besteht darin, die optischen Marker auf einem optischen Sensor anzubringen, welcher im Sichtbereich der Kameras ist. Auf diese Wiese lässt sich die Position des optischen Sensors im Raum bestimmen, was auch als Sensortracking bezeichnet wird.Another possibility is to mount the optical markers on an optical sensor, which is within the field of view of the cameras. In this way, the position of the optical sensor in space can be determined, which is also referred to as sensor tracking.
Mit Hilfe der photogrammetrischen Auswertung ist die Bestimmung der Position, also der räumlichen Koordinaten der optischen Marker mit den gängigen Verfahren relativ einfach möglich. Eine Bestimmung der räumlichen Ausrichtung der optischen Marker also deren Lage im Raum, gestaltet sich dagegen häufig etwas schwieriger mit den gängigen Messverfahren. With the aid of the photogrammetric evaluation, the determination of the position, that is to say the spatial coordinates of the optical markers, is relatively easy with the conventional methods. On the other hand, a determination of the spatial orientation of the optical markers, ie their position in space, often turns out to be somewhat more difficult with the conventional measuring methods.
Es ist daher eine Aufgabe der vorliegenden Erfindung, ein optisches Messsystem bereitzustellen, mit Hilfe dessen sich die Position und Lage optischer Marker noch exakter und robuster bestimmen lässt als mit den bisher bekannten, gängigen Messverfahren.It is therefore an object of the present invention to provide an optical measuring system by means of which the position and position of optical markers can be determined even more accurately and robustly than with the previously known, common measuring methods.
Gemäß einem Aspekt der vorliegenden Erfindung wird diese Aufgabe durch ein Messsystem der eingangs genannten Art dadurch gelöst, dass die Auswerte- und Steuereinheit dazu eingerichtet ist, die Beleuchtungseinrichtung zu steuern, mindestens drei unterschiedliche Beleuchtungsszenarien zu erzeugen, und das Kamerasystem zu steuern, bei einem ersten der mindestens drei Beleuchtungsszenarien erste Bilddaten aufzunehmen, bei einem zweiten der mindestens drei Beleuchtungsszenarien zweite Bilddaten aufzunehmen und bei einem dritten der mindestens drei Beleuchtungsszenarien dritte Bilddaten aufzunehmen. Die Auswerte- und Steuereinheit ist ferner dazu eingerichtet, mit Hilfe einer photometrischen Stereoanalyse anhand der ersten, zweiten und dritten Bilddaten eine räumliche Orientierung der optischen Marker zu bestimmen, und mit Hilfe einer photogrammetrischen Auswertung anhand der ersten, zweiten oder dritten Bilddaten oder anhand von vierten mit dem Kamerasystem aufgenommenen Bilddaten räumliche Positionskoordinaten von zumindest drei der optischen Marker zu bestimmen.According to one aspect of the present invention, this object is achieved by a measuring system of the type mentioned above in that the evaluation and control unit is configured to control the illumination device, to generate at least three different illumination scenarios, and to control the camera system at a first record the first image data of the at least three illumination scenarios, record second image data in a second of the at least three illumination scenarios and record third image data in a third of the at least three illumination scenarios. The evaluation and control unit is further configured to determine a spatial orientation of the optical markers with the aid of a photometric stereo analysis on the basis of the first, second and third image data, and with the aid of a photogrammetric evaluation based on the first, second or third image data or on the basis of the fourth To determine with the camera system image data spatial position coordinates of at least three of the optical markers.
Ein weiterer Aspekt der vorliegenden Erfindung betrifft ein entsprechendes Messverfahren mit den folgenden Verfahrensschritten:
- - Beleuchten eines zu messenden Objekts, an dem mehrere optischen Marker angeordnet sind, wobei sequentiell mindestens drei unterschiedliche Beleuchtungsszenarien erzeugt werden;
- - Aufnahmen von ersten Bilddaten des Objekts und der optischen Marker bei einem ersten der mindestens drei Beleuchtungsszenarien;
- - Aufnahmen von zweiten Bilddaten des Objekts und der optischen Marker bei einem zweiten der mindestens drei Beleuchtungsszenarien;
- - Aufnahmen von dritten Bilddaten des Objekts und der optischen Marker bei einem dritten der mindestens drei Beleuchtungsszenarien;
- - Bestimmen einer räumlichen Orientierung der optischen Marker mit Hilfe einer photometrischen Stereoanalyse anhand der ersten, zweiten und dritten Bilddaten; und
- - Bestimmen von räumlichen Positionskoordinaten von zumindest drei der optischen Marker mit Hilfe einer photogrammetrischen Auswertung anhand der ersten, zweiten oder dritten Bilddaten oder anhand von vierten bei einem vierten Beleuchtungsszenario aufgenommenen Bilddaten.
- Illuminating an object to be measured on which a plurality of optical markers are arranged, wherein at least three different illumination scenarios are generated sequentially;
- - taking pictures of first image data of the object and the optical markers in a first of the at least three lighting scenarios;
- - taking pictures of second image data of the object and the optical markers in a second of the at least three lighting scenarios;
- - taking pictures of third image data of the object and the optical markers in a third of the at least three illumination scenarios;
- Determining a spatial orientation of the optical markers by means of a photometric stereoanalysis on the basis of the first, second and third image data; and
- Determining spatial position coordinates of at least three of the optical markers with the aid of a photogrammetric evaluation on the basis of the first, second or third image data or on the basis of fourth image data recorded in a fourth illumination scenario.
Das erfindungsgemäße Messsystem und Messverfahren erlaubt also nicht nur eine photogrammetrische Auswertung anhand derer sich die Position der optischen Marker bestimmen lässt, sondern ermöglicht ebenso eine photometrische Stereoanalyse, anhand derer sich die räumliche Orientierung (räumliche Lage) der optischen Marker bestimmen lässt. Die Auswertung der Kamerabilder ermöglicht also sowohl die Bestimmung der Position der optischen Marker (mit Hilfe der photogrammetrischen Auswertung) als auch die Bestimmung einer Oberflächennormale jedes optischen Markers (mit Hilfe der photometrischen Stereoanalyse).The measuring system and measuring method according to the invention thus not only allows a photogrammetric evaluation by means of which the position of the optical markers can be determined, but also enables a photometric stereo analysis, by means of which the spatial orientation (spatial position) of the optical markers can be determined. The evaluation of the camera images thus enables both the determination of the position of the optical markers (with the aid of the photogrammetric evaluation) and the determination of a surface normal of each optical marker (with the aid of photometric stereoanalysis).
Je nach Anwendungsbeispiel und Ausführungsvariante ist es entweder möglich, die gleichen Bilddaten, welche für die photometrische Stereoanalyse ausgewertet werden, auch für die photogrammetrische Auswertung zu verwenden, oder aber unterschiedliche Bilddaten für die photometrische Stereoanalyse und die photogrammetrische Auswertung zu verwenden.Depending on the application example and embodiment variant, it is either possible to use the same image data, which are evaluated for the photometric stereo analysis, also for the photogrammetric evaluation, or to use different image data for the photometric stereo analysis and the photogrammetric evaluation.
Bei der ersten Variante werden mit dem Kamerasystem zumindest drei Bilder (bezeichnet als erste, zweite und dritte Bilddaten) bei unterschiedlichen Beleuchtungsszenarien erzeugt und anhand dessen sowohl die photometrische Stereoanalyse als auch die photogrammetrische Auswertung durchgeführt.In the first variant, the camera system generates at least three images (referred to as first, second and third image data) in different lighting scenarios and uses this to carry out both the photometric stereo analysis and the photogrammetric evaluation.
Bei der zweiten Variante wir die photometrische Stereoanalyse anhand der zumindest drei bei unterschiedlichen Beleuchtungsszenarien aufgenommenen Bilder durchgeführt und separat dazu, beispielsweise bei einem vierten Beleuchtungsszenario, weitere Bilddaten (vierte Bilddaten) aufgenommen, welche eine Vielzahl von Bildern aus unterschiedlichen Blickwinkeln auf das zu messende Objekt aufweisen. Die photogrammetrische Auswertung wird dann anhand dieser vierten Bilddaten vorgenommen.In the second variant, the photometric stereo analysis is carried out on the basis of the at least three images taken in different lighting scenarios and separately, for example, in a fourth lighting scenario, further image data (fourth image data) recorded, which have a variety of images from different angles to the object to be measured , The photogrammetric evaluation is then made on the basis of this fourth image data.
Gemäß einer Ausgestaltung der vorliegenden Erfindung ist das zu messende Objekt ein zu dem Messsystem gehörender, optischer 3D Sensor, an dem die optischen Marker angebracht sind.According to one embodiment of the present invention, the object to be measured is an optical 3D sensor belonging to the measuring system, to which the optical markers are attached.
Der bisherigen Terminologie folgend ist also der optische 3D Sensor selbst ein zu messendes Objekt. Vorzugsweise sind mindestens drei optische Marker an dem 3D Sensor angebracht. Mit Hilfe des erfindungsgemäßen Messsystems kann die Messposition und Messausrichtung des 3D Sensors im Sinne eines Sensortrackings bestimmt werden. Da nicht nur die Markerpositionen, sondern auch deren jeweilige räumliche Ausrichtung bestimmt werden können, kann die Robustheit und Genauigkeit im Vergleich zu bisher bekannten Sensortracking-Verfahren deutlich erhöht werden. Zudem ist es möglich den 3D Sensor als bewegten Sensor einzusetzen, dessen Position und Lage im Raum veränderbar ist.Following the previous terminology, the optical 3D sensor itself is therefore a measurement to be measured Object. Preferably, at least three optical markers are attached to the 3D sensor. With the aid of the measuring system according to the invention, the measuring position and measuring orientation of the 3D sensor can be determined in the sense of a sensor tracking. Since not only the marker positions, but also their respective spatial orientation can be determined, the robustness and accuracy can be significantly increased compared to previously known sensor tracking methods. It is also possible to use the 3D sensor as a moving sensor whose position and position in the room can be changed.
Gemäß einer weiteren Ausgestaltung ist es bevorzugt, dass der optische 3D Sensor dazu eingerichtet ist, Sensordaten eines zweiten Objekts zu erfassen, wobei die Auswerte- und Steuereinheit dazu eingerichtet ist, anhand der räumlichen Orientierung und der räumlichen Positionskoordinaten der optischen Marker sowie anhand der Sensordaten räumliche Positionskoordinaten des zweiten Objekts zu bestimmen.According to a further embodiment, it is preferred that the optical 3D sensor is set up to detect sensor data of a second object, wherein the evaluation and control unit is set up spatially based on the spatial orientation and the spatial position coordinates of the optical markers and on the basis of the sensor data To determine position coordinates of the second object.
Bei dem zweiten Objekt kann es sich beispielsweise um ein zu vermessendes Werkstück handeln, welches mit Hilfe des optischen 3D Sensors vermessen bzw. gescannt wird. Die Bewegung des 3D Sensors wird auf die oben genannte Weise durch das Kamerasystem des erfindungsgemäßen optischen Messsystems überwacht. Mit Hilfe der durch das erfindungsgemäße Messsystem gewonnenen Informationen zu Position und Lage des 3D Sensors können die verschiedenen Sensorpositionen des 3D Sensors erfasst und in ein übergeordnetes Koordinatensystem transformiert werden. Man spricht hierbei auch von einer globalen Registrierung, bei der die von dem 3D Sensor gewonnenen 3D Daten und die in der Auswerte- und Steuereinheit des erfindungsgemäßen Messsystems berechneten 3D Daten in ein gemeinsames Koordinatensystem transformiert und zu einem gesamten 3D Datensatz zusammengesetzt werden.The second object may be, for example, a workpiece to be measured, which is measured or scanned with the aid of the optical 3D sensor. The movement of the 3D sensor is monitored in the above-mentioned manner by the camera system of the optical measuring system according to the invention. With the help of the information obtained by the measurement system according to the invention information on the position and location of the 3D sensor, the various sensor positions of the 3D sensor can be detected and transformed into a higher-level coordinate system. This is also referred to as a global registration, in which the 3D data obtained by the 3D sensor and the 3D data calculated in the evaluation and control unit of the measuring system according to the invention are transformed into a common coordinate system and combined to form an entire 3D data set.
Bei dem optischen 3D Sensor kann es sich beispielsweise um einen Streifenlichtprojektionssensor, einen Stereo-Visionssensor, einen Laserscanner oder einen photogrammetrischen Sensor handeln. Im Falle einer Ausbildung des optischen 3D Sensors als photogrammetrischer Sensor würde dessen Bewegung im vorliegenden Fall selbst durch einen photogrammetrischen Sensor (das Kamerasystem des optischen Messsystems) überwacht.The optical 3D sensor can be, for example, a striped light projection sensor, a stereo vision sensor, a laser scanner or a photogrammetric sensor. In the case of an embodiment of the optical 3D sensor as a photogrammetric sensor, its movement in the present case would itself be monitored by a photogrammetric sensor (the camera system of the optical measuring system).
Gemäß einer weiteren Ausgestaltung der vorliegenden Erfindung ist die Auswerte- und Steuereinheit dazu eingerichtet, anhand der räumlichen Orientierung der optischen Marker die zumindest drei genannten optischen Marker, für die mit Hilfe der photogrammetrischen Auswertung die räumlichen Positionskoordinaten bestimmt werden, zu selektieren.In accordance with a further embodiment of the present invention, the evaluation and control unit is set up to select the at least three said optical markers for which the spatial position coordinates are determined with the aid of the photogrammetric evaluation on the basis of the spatial orientation of the optical markers.
Mit anderen Worten wird also zunächst die räumliche Orientierung jedes der optischen Marker mit Hilfe der photometrischen Stereoanalyse bestimmt und anhand dessen anschließend selektiert, welche der optischen Marker (zumindest drei) für die photogrammetrische Positionsbestimmung verwendet werden. Ungünstig orientierte optische Marker werden für die photogrammetrische Auswertung der einzelnen Kamerabilder dann nicht weiter berücksichtigt, da sie gegebenenfalls das Berechnungsergebnis der Bündelblockausgleichung verschlechtern würden. Diese Selektion der optischen Marker erhöht die Robustheit und Genauigkeit der Markerpositionsbestimmung.In other words, the spatial orientation of each of the optical markers is first of all determined with the aid of photometric stereoanalysis and, based on this, subsequently selected which of the optical markers (at least three) are used for the photogrammetric position determination. Unfavorably oriented optical markers are then not considered further for the photogrammetric evaluation of the individual camera images since they would possibly worsen the calculation result of the bundle block adjustment. This selection of optical markers increases the robustness and accuracy of marker position determination.
Ein Selektionskriterium für die Selektion der optischen Marker kann die räumliche Orientierung der optischen Marker relativ zu dem Kamerasystem sein. Weist das Kamerasystem mehrere Kameras auf, so wird als Selektionskriterium beispielsweise der Winkel den die Oberflächennormale eines optischen Markers mit den jeweiligen Kameras einschließt verwendet. Beispielsweise werden nur die optischen Marker selektiert, deren Oberflächennormale mit allen für die photogrammetrische Auswertung verwendeten Kameras jeweils einen Winkel einschließen, der kleiner ist als ein vordefinierter Grenzwinkel. Somit kann sichergestellt werden, dass alle optischen Marker ausreichend genau von dem Kamerasystem erfassbar sind.A selection criterion for the selection of the optical markers may be the spatial orientation of the optical markers relative to the camera system. If the camera system has several cameras, the selection criterion used is, for example, the angle which includes the surface normal of an optical marker with the respective cameras. For example, only the optical markers are selected whose surface normals, with all the cameras used for the photogrammetric evaluation, each include an angle that is smaller than a predefined limiting angle. Thus, it can be ensured that all optical markers can be detected with sufficient accuracy by the camera system.
Ein zusätzliches oder alternatives Selektionskriterium für die Selektion der optischen Marker kann die räumliche Orientierung der optischen Marker relativ zu der Beleuchtungseinrichtung sein. Beispielsweise kann definiert werden, dass lediglich die optischen Marker selektiert werden, deren Oberflächennormale einen Grenzwinkel mit den einzelnen Lichtquellen der Beleuchtungseinrichtung einschließen, welcher in einem vordefinierten Winkelbereich ist. Auf diese Weise wird sichergestellt, dass die für die photogrammetrische Auswertung verwendeten optischen Marker ausreichend gut ausgeleuchtet sind. Damit kann beispielsweise ebenso ausgeschlossen werden, das optische Marker für die photogrammetrische Auswertung verwendet werden, welche zu stark, zu gering oder in einem ungünstigen Winkel der zu starken Spiegelungen im Kamerasystem führt, beleuchtet werden.An additional or alternative selection criterion for the selection of the optical markers may be the spatial orientation of the optical markers relative to the illumination device. For example, it can be defined that only those optical markers are selected whose surface normal includes a critical angle with the individual light sources of the illumination device, which is in a predefined angular range. In this way it is ensured that the optical markers used for the photogrammetric evaluation are sufficiently well illuminated. Thus, for example, it can also be ruled out that the optical marker can be used for the photogrammetric evaluation, which leads to excessive, too low or at an unfavorable angle of excessive reflections in the camera system.
Gemäß einer Ausgestaltung der vorliegenden Erfindung weist die Beleuchtungseinrichtung eine erste, eine zweite und eine dritte Lichtquelle auf, wobei die Auswerte- und Steuereinheit dazu eingerichtet ist, die erste Lichtquelle zur Erzeugung des ersten Beleuchtungsszenarios, die zweite Lichtquelle zur Erzeugung des zweiten Beleuchtungsszenarios und die dritte Lichtquelle zur Erzeugung des dritten Beleuchtungsszenarios anzusteuern.According to one embodiment of the present invention, the illumination device has a first, a second and a third light source, wherein the evaluation and control unit is adapted to the first light source for generating the first illumination scenario, the second light source for generating the second illumination scenario and the third To control light source for generating the third lighting scenario.
Zur Erzeugung der ersten, zweiten und dritten Bilddaten, welche für die photometrische Stereoanalyse verwendet werden, kann also beispielsweise jeweils eine Lichtquelle angeschaltet werden. Zur Erzeugung der ersten Bilddaten wird die erste Lichtquelle angeschaltet und die beiden anderen Lichtquellen ausgeschaltet. Zur Erzeugung der zweiten Bilddaten wird die zweite Lichtquelle angeschaltet und die beiden anderen Lichtquellen ausgeschaltet. Zur Erzeugung der dritten Bilddaten wird die dritte Lichtquelle angeschaltet und die beiden anderen Lichtquellen ausgeschaltet. Selbstverständlich sind auch andere Schaltungen möglich, um die mindestens drei verschiedenen Beleuchtungsszenarien zu erzeugen. Es versteht sich ebenso, dass die Beleuchtungseinrichtung auch mehr als drei Lichtquellen aufweisen kann, und dass zur Erzeugung eines Beleuchtungsszenarios auch mehr als nur eine Lichtquelle aktiviert werden kann. In order to generate the first, second and third image data which are used for the photometric stereoanalysis, one light source can therefore be switched on, for example in each case. To generate the first image data, the first light source is turned on and the other two light sources are turned off. To generate the second image data, the second light source is turned on and the other two light sources are turned off. To generate the third image data, the third light source is turned on and the other two light sources are turned off. Of course, other circuits are possible to produce the at least three different lighting scenarios. It is also understood that the illumination device can also have more than three light sources, and that more than one light source can be activated to generate a lighting scenario.
Gemäß einer alternativen Ausgestaltung der vorliegenden Erfindung weist die Beleuchtungseinrichtung nur eine Lichtquelle auf, welche mit Hilfe einer Vorrichtung bewegt wird, um die mindestens drei unterschiedlichen Beleuchtungsszenarien zu erzeugen. Da die Relativ-Position und -Lage zwischen Kamerasystem und Beleuchtungseinrichtung für die photometrische Stereoanalyse bekannt sein sollte, sollte die Position und Lage der Lichtquelle während der genannten Bewegung getrackt werden oder vorbekannt (kalibriert) sein.According to an alternative embodiment of the present invention, the illumination device has only one light source, which is moved by means of a device in order to generate the at least three different illumination scenarios. Since the relative position and location between the camera system and the illumination device should be known for photometric stereoanalysis, the position and location of the light source should be tracked or known (calibrated) during said movement.
Ähnlich der Beleuchtungseinrichtung kann das Kamerasystem ebenfalls entweder mehrere Kameras aufweisen, oder aber nur eine bewegte Kamera, deren Position getrackt wird oder vorbekannt (kalibriert) ist.Similar to the illumination device, the camera system can likewise either have a plurality of cameras, or else only a moving camera whose position is tracked or previously known (calibrated).
Gemäß einer beispielhaften Ausgestaltung weist das Kamerasystem eine erste Kamera und eine zweite Kamera auf, wobei die Auswerte- und Steuereinheit dazu eingerichtet ist, das Kamerasystem zu steuern, die ersten, zweiten und dritten Bilddaten mit der ersten Kamera aufzunehmen sowie mit der zweiten Kamera fünfte Bilddaten bei dem ersten Beleuchtungsszenario, sechste Bilddaten bei dem zweiten Beleuchtungsszenario und siebte Bilddaten bei dem dritten Beleuchtungsszenario aufzunehmen, wobei die Auswerte- und Steuereinheit ferner dazu eingerichtet ist, mit Hilfe der photometrischen Stereoanalyse anhand der ersten, zweiten, dritten, fünften, sechsten und siebten Bilddaten eine räumliche Orientierung der optischen Marker zu bestimmen.According to an exemplary embodiment, the camera system has a first camera and a second camera, wherein the evaluation and control unit is configured to control the camera system, to record the first, second and third image data with the first camera and fifth image data with the second camera in the first lighting scenario, recording sixth image data in the second lighting scenario and seventh image data in the third lighting scenario, wherein the evaluation and control unit is further configured to use the photometric stereo analysis based on the first, second, third, fifth, sixth and seventh image data to determine a spatial orientation of the optical markers.
Für die photometrische Stereoanalyse wird in dieser Ausgestaltung also für jede der beiden Kameras eine Mehrzahl von Bildern aufgenommen, wobei für jedes einzelne Bild jede Kamera ein unterschiedliches Beleuchtungsszenario erzeugt wird. Unter dem ersten Beleuchtungsszenario, bei dem beispielsweise lediglich die erste Lichtquelle der Beleuchtungseinrichtung aktiviert ist, wird jeweils ein Bild mit jeder Kamera aufgenommen (erste und fünfte Bilddaten). Unter dem zweiten Beleuchtungsszenario, bei dem beispielsweise lediglich die zweite Lichtquelle Beleuchtungseinrichtung aktiviert ist, wird ebenfalls jeweils ein Bild mit jeder Kamera aufgenommen (zweite und sechste Bilddaten). Unter dem dritten Beleuchtungsszenario, bei dem beispielsweise lediglich die dritte Lichtquelle der Beleuchtungseinrichtung aktiviert ist, wird ebenfalls jeweils ein Bild mit jeder Kamera aufgenommen (dritte und siebte Bilddaten). Je nach Anzahl n der Kameras und Anzahl m der Lichtquellen erhält man auf diese Weise also n x m Bilddaten, welche für die photometrische Stereoanalyse verwendbar sind.For the photometric stereo analysis, a plurality of images is thus recorded for each of the two cameras in this embodiment, wherein a different lighting scenario is generated for each individual image of each camera. Under the first illumination scenario, in which, for example, only the first light source of the illumination device is activated, in each case one image is taken with each camera (first and fifth image data). Under the second illumination scenario in which, for example, only the second light source illumination device is activated, one image is also recorded with each camera (second and sixth image data). Under the third illumination scenario in which, for example, only the third light source of the illumination device is activated, an image is also taken in each case with each camera (third and seventh image data). Depending on the number n of cameras and the number m of light sources, one thus obtains n × m image data that can be used for the photometric stereo analysis in this manner.
Anstelle des Einsatzes mehrerer Kameras oder einer bewegten Kamera kann das Kamerasystem in einer alternativen Ausgestaltung auch eine erste Kamera aufweisen, welche als Stereokamera ausgebildet ist.Instead of using a plurality of cameras or a moving camera, the camera system in an alternative embodiment may also have a first camera, which is designed as a stereo camera.
Es versteht sich, dass sich die oben in Bezug auf das erfindungsgemäße optische Messsystem erwähnten und in den Patentansprüchen definierten Ausgestaltungen nicht nur auf das optische Messsystem selbst, sondern auch in entsprechender Weise auf das erfindungsgemäße Messverfahren beziehen. Des weiteren versteht es sich, dass die vorstehend genannten und die nachstehend noch zu erläuternden Merkmale nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen.It is understood that the embodiments mentioned above in relation to the optical measuring system according to the invention and defined in the patent claims relate not only to the optical measuring system itself, but also in a corresponding manner to the measuring method according to the invention. Furthermore, it is understood that the features mentioned above and those yet to be explained below can be used not only in the particular combination given, but also in other combinations or alone, without departing from the scope of the present invention.
Ausführungsbeispiele der Erfindung sind in den Zeichnungen dargestellt und werden in der nachfolgenden Beschreibung näher erläutert. Es zeigen:
-
1 eine vereinfachte, schematische Darstellung eines erstes Ausführungsbeispiels des Erfindungsgemäßen Messsystems; -
2 eine vereinfachte, schematische Darstellung eines zweiten Ausführungsbeispiels des erfindungsgemäßen Messsystems; und -
3 eine vereinfachte, schematische Darstellung eines dritten Ausführungsbeispiels des erfindungsgemäßen Messsystems.
-
1 a simplified, schematic representation of a first embodiment of the inventive measuring system; -
2 a simplified, schematic representation of a second embodiment of the measuring system according to the invention; and -
3 a simplified schematic representation of a third embodiment of the measuring system according to the invention.
Die
Das erfindungsgemäße Messsystem
Je nach Ausgestaltung können die optischen Marker
Das erfindungsgemäße Messsystem
Die Beleuchtungseinrichtung
Das Kamerasystem
In dem in
Die Beleuchtungseinrichtung
Die Verbindung
Des weiteren kann die Auswerte- und Steuereinheit
Die Auswerte- und Steuereinheit
Die Beleuchtungsszenarios können beispielsweise wie folgt erzeugt werden. In einem ersten Beleuchtungsszenario wird die erste Lichtquelle
Die ersten, zweiten und dritten Bilddaten werden von der Auswerte- und Steuereinheit
Die Auswerte- und Steuereinheit
Im Minimalfall weist das Kamerasystem
Die Auswerte- und Steuereinheit
Als weiteres Selektionskriterium für die Auswahl der optischen Marker
Bei dem 3D Sensor
Mit Hilfe des erfindungsgemäßen Positions- und Lage-Trackings des 3D Sensors
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- WO 2016/071227 A1 [0003, 0005, 0009]WO 2016/071227 A1 [0003, 0005, 0009]
Claims (14)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017122627.3A DE102017122627B4 (en) | 2017-09-28 | 2017-09-28 | Optical measuring system and measuring method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102017122627.3A DE102017122627B4 (en) | 2017-09-28 | 2017-09-28 | Optical measuring system and measuring method |
Publications (2)
Publication Number | Publication Date |
---|---|
DE102017122627A1 true DE102017122627A1 (en) | 2019-03-28 |
DE102017122627B4 DE102017122627B4 (en) | 2021-04-01 |
Family
ID=65638074
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE102017122627.3A Expired - Fee Related DE102017122627B4 (en) | 2017-09-28 | 2017-09-28 | Optical measuring system and measuring method |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102017122627B4 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3910287A1 (en) | 2020-05-14 | 2021-11-17 | Fill Gesellschaft m.b.H. | Method and device for measuring a physical object |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016071227A1 (en) | 2014-11-03 | 2016-05-12 | Optinav Sp. Z O.O. | Optical tracking method and system based on passive markers |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2458927B (en) * | 2008-04-02 | 2012-11-14 | Eykona Technologies Ltd | 3D Imaging system |
DE102013114707A1 (en) * | 2013-12-20 | 2015-06-25 | EXTEND3D GmbH | Method for carrying out and controlling a processing step on a workpiece |
US10455216B2 (en) * | 2015-08-19 | 2019-10-22 | Faro Technologies, Inc. | Three-dimensional imager |
-
2017
- 2017-09-28 DE DE102017122627.3A patent/DE102017122627B4/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016071227A1 (en) | 2014-11-03 | 2016-05-12 | Optinav Sp. Z O.O. | Optical tracking method and system based on passive markers |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3910287A1 (en) | 2020-05-14 | 2021-11-17 | Fill Gesellschaft m.b.H. | Method and device for measuring a physical object |
WO2021228998A1 (en) | 2020-05-14 | 2021-11-18 | Fill Gesellschaft M.B.H. | Method and device for measuring a physical object |
Also Published As
Publication number | Publication date |
---|---|
DE102017122627B4 (en) | 2021-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE102007054906B4 (en) | Method for optical measurement of the three-dimensional geometry of objects | |
DE102014206309B4 (en) | System and method for obtaining offset images to be used for improved edge resolution | |
DE60127644T2 (en) | Teaching device for a robot | |
DE102007033486B4 (en) | Method and system for mixing a virtual data model with an image generated by a camera or a presentation device | |
DE10137241A1 (en) | Arrangement, for detecting and measuring objects, optically projects markers onto object, records partial views of object in global coordinate system using information re-detected markers | |
EP2133659B1 (en) | Method and device for determining the position of a sensor | |
EP0923705B1 (en) | Method and device for determining the spatial coordinates of objects | |
WO2017220598A1 (en) | Method for the three dimensional measurement of moving objects during a known movement | |
DE102015212352A1 (en) | Method, arrangement and computer program product for the position detection of an object to be examined | |
DE102005037841A1 (en) | Method and arrangement for determining the relative position of a first object with respect to a second object, and a corresponding computer program and a corresponding computer-readable storage medium | |
DE102016120557A1 (en) | System for dimensionally measuring an object | |
EP3044536A1 (en) | Method and apparatus for measuring internal threads of a workpiece having an optical sensor | |
EP2589926A1 (en) | Device for and method of optically measuring the shape of moving objects | |
DE102016102579A1 (en) | Method and device for determining a plurality of spatial coordinates on an object | |
DE19626889A1 (en) | Procedure for determining object geometry via multi=position 3d=sensor | |
DE102016115252A1 (en) | Measuring device and method for setting up the measuring device | |
DE102017122627B4 (en) | Optical measuring system and measuring method | |
WO2009018894A1 (en) | Method and device for determining geometric data of a measured object | |
DE102008036710A1 (en) | Method for three-dimensional optical measuring of object with topometric measuring process, involves selecting partial areas of objects such that reflections of patterns on surface of object do not influence patterns in partial areas | |
DE102010029627B4 (en) | Apparatus and method for determining the structure of a specular surface of an object | |
DE19629616A1 (en) | Appliance for setting up, measuring and checking processing machine tools | |
DE102020129923B4 (en) | Procedure to prepare a 3D scan and 3D scanner to perform the procedure | |
DE102015117276B4 (en) | Method and device for measuring a test object with improved measuring accuracy | |
DE102021209296B4 (en) | Method for determining the movement of an object equipped with at least one video camera for image capture | |
DE102017009334B3 (en) | Method for testing an optical system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
R012 | Request for examination validly filed | ||
R016 | Response to examination communication | ||
R018 | Grant decision by examination section/examining division | ||
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |