DE102006055758A1 - Camera calibrating method for optical measuring system, involves marking one of cross-over points in checker pattern by position information, which is readable by image processing of images of pattern and has coding of orientation - Google Patents

Camera calibrating method for optical measuring system, involves marking one of cross-over points in checker pattern by position information, which is readable by image processing of images of pattern and has coding of orientation Download PDF

Info

Publication number
DE102006055758A1
DE102006055758A1 DE102006055758A DE102006055758A DE102006055758A1 DE 102006055758 A1 DE102006055758 A1 DE 102006055758A1 DE 102006055758 A DE102006055758 A DE 102006055758A DE 102006055758 A DE102006055758 A DE 102006055758A DE 102006055758 A1 DE102006055758 A1 DE 102006055758A1
Authority
DE
Germany
Prior art keywords
checkerboard pattern
points
images
pattern
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
DE102006055758A
Other languages
German (de)
Other versions
DE102006055758B4 (en
Inventor
Sebastian Gesemann
Falk Dr. Klinge
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Deutsches Zentrum fuer Luft und Raumfahrt eV
Vitro Laser Assets UG
Original Assignee
Deutsches Zentrum fuer Luft und Raumfahrt eV
Vitro Laser GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Deutsches Zentrum fuer Luft und Raumfahrt eV, Vitro Laser GmbH filed Critical Deutsches Zentrum fuer Luft und Raumfahrt eV
Priority to DE102006055758A priority Critical patent/DE102006055758B4/en
Publication of DE102006055758A1 publication Critical patent/DE102006055758A1/en
Application granted granted Critical
Publication of DE102006055758B4 publication Critical patent/DE102006055758B4/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Abstract

The method involves forming a planar checker pattern in relative positions of a camera. Positions of cross-over points of edges are tracked based on positions of saddle points of luminance intensity distribution in images of the checker pattern. One of the cross-over points in the checker pattern is marked by position information, which is readable by image processing of the images of the pattern. The position information is comprised of a coding of orientation and the position of the cross-over points within the pattern. An independent claim is also included for a method for calibrating a projector.

Description

TECHNISCHES GEBIET DER ERFINDUNGTECHNICAL FIELD OF THE INVENTION

Die Erfindung betrifft ein Verfahren zur Kalibrierung einer Kamera mit den Merkmalen des Oberbegriffs des unabhängigen Patentanspruchs 1 und ein Verfahren zur Kalibrierung eines Projektors mit den Merkmalen des Oberbegriffs des unabhängigen Patentanspruchs 2.The The invention relates to a method for calibrating a camera the features of the preamble of independent claim 1 and a method for calibrating a projector with the features of Generic term of the independent Patent claim 2.

Messdaten von optischen Messsystemen wie z. B. Bilder können nur sinnvoll interpretiert werden, wenn die Konfiguration des jeweiligen Messsystems bekannt ist. Die Konfiguration eines optischen Messsystems wird durch Lage, Orientierung sowie weitere intrinsische Parameter von optischen Komponenten wie digitalen Kameras und Projektoren definiert. Die Aufgabe der Kalibrierung ist es, die zur Auswertung der Messdaten benötigten Parameter der Konfiguration zu bestimmen.measurement data of optical measuring systems such. B. Images can only be interpreted meaningfully be known if the configuration of the respective measuring system is. The configuration of an optical measuring system is characterized by Orientation as well as other intrinsic parameters of optical Defined components such as digital cameras and projectors. The The task of the calibration is to evaluate the measured data required Determine parameters of the configuration.

Unterschieden wird zwischen der geometrischen Kalibrierung und der radiometrischen Kalibrierung. Die geometrische Kalibrierung liefert als Ergebnis Parameter eines Abbildungsmodells, mit dessen Hilfe es möglich wird, dreidimensionale Punkte im Raum zweidimensionalen Koordinaten in der Bildebene zuzuordnen und umgekehrt. Das Ergebnis einer radiometrischen Kalibrierung ist die so genannte Transferfunktion. Diese gibt an, wie verschiedene Lichtintensitäten von einfallendem Licht auf Pixelwerte abgebildet werden und umgekehrt.differences is between the geometric calibration and the radiometric Calibration. The geometric calibration returns as a result Parameters of an imaging model that makes it possible to three-dimensional points in space two-dimensional coordinates in to assign the image plane and vice versa. The result of a radiometric Calibration is the so-called transfer function. This indicates like different light intensities be reflected by incident light on pixel values and vice versa.

Eine gute geometrische Kalibrierung ist für viele verschiedene Messverfahren erforderlich. Anhand der durch einer geometrischen Kalibrierung ermittelten Zuordnung zwischen dreidimensionalen Raumkoordinaten und zweidimensionalen Bildkoordinaten ist es möglich, Abstand, Form und Bewegung von Objekten und Punkten zu ermitteln, die durch mindestens zwei Kameras beobachtet wurden.A Good geometric calibration is for many different measurement methods required. On the basis of a geometric calibration determined assignment between three-dimensional space coordinates and two-dimensional image coordinates, it is possible to distance, shape and movement of objects and points to be determined by at least two Cameras were observed.

In der Luft- und Raumfahrt werden viele solcher Methoden eingesetzt, z. B. um die Bewegung von Partikeln in einer Strömung oder eine Verformung eines Testobjekts unter verschiedenen Einflüssen messen zu können. Je nach Anwendung gibt es unterschiedliche Anforderungen an die Qualität der Kalibrierung.In Aerospace uses many such methods, z. B. the movement of particles in a flow or deformation of a Test object under different influences to be able to measure. ever After application there are different requirements for the quality of the calibration.

Die vorliegende Erfindung betrifft allein die geometrische Kalibrierung von Kameras, insbesondere von Digitalkameras, und von Projektoren, die zur Auswertung von Messergebnissen diverser Verfahren erforderlich ist. Dabei wird in der folgenden Beschreibung teilweise nur auf die geometrische Kalibrierung von Kameras Bezug genommen. Soweit hierbei nichts anderes angegeben ist, gilt das Entsprechende aber auch für die geometrische Kalibrierung von Projektoren mit Hilfe mindestens einer zuvor ihrerseits geometrisch kalibrierten Kamera.The The present invention relates solely to geometric calibration of cameras, especially digital cameras, and projectors, which is required for the evaluation of measurement results of various methods. Here, in the following description, in part, only on the geometric Calibration of cameras referenced. As far as nothing else here is given, the corresponding applies but also for the geometric Calibration of projectors with the help of at least one previously in turn geometrically calibrated camera.

STAND DER TECHNIKSTATE OF THE ART

Photogrammetrische Verfahren zur Bestimmung von Abbildungsmodellparametern einer Kamera, zu denen auch die vorliegende Erfindung zählt, arbeiten sämtlich nach einem übereinstimmenden Grundprinzip. Ein Kalibrierungsobjekt mit bekannter Geometrie wird in den Bildbereich der Kamera gehalten und aufgenommen. Mehrere Teilprobleme sind dabei für die Bestimmung der Abbildungsmodellparameter zu lösen. Zuerst müssen Punkte des Kalibrierobjekts in den von der zu kalibrierenden Kamera aufgenommenen Abbildern erkannt werden. Die Punkte des Kalibrierobjekts müssen dabei eindeutig identifiziert werden. Als Nächstes müssen die Pixelkoordinaten dieser Punkte gemessen werden, um pro Kamera und Abbild eine Punktkorrespondenzliste zu erzeugen. Die Punktkorrespondenzlisten stellen eine Verbindung zwischen den bekannten Raumkoordinaten der Punkte des Kalibrierungsobjekts und deren gemessene Pixelkoordinaten her. Im letzten Schritt werden diese Punktkorrespondenzlisten dazu verwendet, die eigentlichen Abbildungsparameter der Kamera zu berechnen.Photogrammetric Method for determining imaging model parameters of a camera, which also includes the present invention, all work after a matching one Basic principle. A calibration object with known geometry becomes held in the image area of the camera and recorded. Several Partial problems are there for to solve the determination of the imaging model parameters. First, there are points of the calibration object in the camera to be calibrated Images are recognized. The points of the calibration object must be be clearly identified. Next, the pixel coordinates of this Points are measured to per camera and image a Punktkorrespondenzliste to create. The point correspondence lists connect between the known spatial coordinates of the points of the calibration object and their measured pixel coordinates. In the last step will be These point correspondence lists used to do the actual Calculate imaging parameters of the camera.

Ein Verfahren zur Kalibrierung einer Kamera mit den Merkmalen des Oberbegriffs des unabhängigen Patentanspruchs 1 ist aus D. Chen, G. Zhang: A New Sub-Pixel Detector for X- Corners in Camera Calibration targets, School of Instruments Science and Photoelectric Engineering. Bejing University of Aeronautics and Astronautics (2005) bekannt. Bei dem bekannten Verfahren wird zunächst eine Groblage der Kreuzungspunkte der Kanten in Pixelkoordinaten mit Pixelgenauigkeit bestimmt, bevor durch die Ermittlung der Lage der Sattelpunkte der Helligkeitsintensitätsverteilung in den Abbildern des Schachbrettmusters die Lagen der Kreuzungspunkte der Kanten des Schachbrettmusters mit Subpixelgenauigkeit bestimmt werden. Das Bestimmen zunächst nur von Groblagen der Kreuzungspunkte mit Pixelgenauigkeit hat den Zweck, die aufwändige subpixelgenaue Bestimmung auf die Bereiche der Sattelpunkte zu fokussieren und damit Rechenaufwand einzusparen. Die Bestimmung der Groblagen mit Pixelgenauigkeit erfolgt durch Anwendung eines Operators basierend auf einer Hessian-Matrix. Alternativ wird die Anwendung eines Harris-Detektors für die Bestimmung der Groblagen mit Pixelgenauigkeit angesprochen. In den Abbildern des Schachbrettmusters, in denen die Lage der Kreuzungspunkte der Kanten anhand der Lagen der Sattelpunkte der Helligkeitsintensitätsverteilung bestimmt werden, ist das Schachbrettmuster jeweils einschließlich seiner äußeren Begrenzung zu sehen, wodurch es möglich ist, jeden Sattelpunkt einem bestimmten Kreuzungspunkt von Kanten innerhalb des Schachbrettmusters zuzuordnen. Dies ist für die Zuordnung der Lagen der Kreuzungspunkte in den Abbildern des Schachbrettmusters zu Raumkoordinaten, d. h. der Erstellung der so genannten Punktkorrespondenzlisten erforderlich. Diesbezüglich Details werden von D. Chen und G. Zhang jedoch nicht offenbart.A method for calibrating a camera having the features of the preamble of independent claim 1 is out D. Chen, G. Zhang: A New Subpixel Detector for X-Corners in Camera Calibration Targets, School of Instrumentation Science, and Photoelectric Engineering. Beijing University of Aeronautics and Astronautics (2005) known. In the known method, first a coarse position of the crossing points of the edges is determined in pixel coordinates with pixel accuracy, before the positions of the crossing points of the edges of the checkerboard pattern with subpixel accuracy are determined by determining the position of the saddle points of the brightness intensity distribution in the images of the checkerboard pattern. The determination of at first only coarse layers of the crossing points with pixel accuracy has the purpose of focusing the time-consuming subpixel-accurate determination on the regions of the saddle points and thus of introducing computational effort The determination of the coarse layers with pixel accuracy is carried out by applying an operator based on a Hessian matrix. Alternatively, the application of a Harris detector for determining the coarse layers with pixel accuracy is addressed. In the images of the checkerboard pattern, in which the position of the crossing points of the edges are determined by the positions of the saddle points of the brightness intensity distribution, the checkerboard pattern is to be seen in each case including its outer boundary, whereby it is possible for each saddle point to a certain intersection of edges within the checkerboard pattern assigned. This is necessary for the assignment of the positions of the crossing points in the images of the checkerboard pattern to spatial coordinates, ie the creation of the so-called point correspondence lists. However, details of this are not disclosed by D. Chen and G. Zhang.

Ein Verfahren zur geometrischen Kalibrierung einer Kamera ist aus J. Heikkila, O. Silven: A Four-step Camera Calibration Procedure with Implicit Image Correction, Proceedings IEEE Computer Society Conference Computer Vision and Pattern Recognition (1997) bekannt. Dieses Verfahren ist mehrschrittig und basiert auf einem DLT (direct linear transform)-Ansatz. Das Kalibrierungsobjekt ist ein aus mehreren Ebenen mit Punktegittern zusammengesetztes dreidimensionales Objekt, wobei jede Ebene durch eine Orientierung eines ebene Kreispunkte aufweisenden Punktegitters gegenüber der Kamera repräsentiert wird. Nach der Bestimmung der Mittelpunkte der Kreispunkte in den Abbildern des Punktegitters wird die DLT für eine anfängliche Abschätzung der Parameter durchgeführt. Danach wird eine nicht-lineare Optimierung der Parameter einschließlich von Parametern für radiale und tangentiale Linsenverzerrungen vorgenommen. Heikkila und Silven waren sich bewusst, dass die Ellipsenmittelpunkte aufgrund von perspektivischer Verzerrung nicht den Bildern der Mittelpunkte der Kreispunkte entsprechen. Daher werden in der dritten Stufe die gemessenen Pixelkoordinaten anhand der bisher bekannten Parameter korrigiert. Anschließend wird die nicht-lineare Optimierung noch mal an den korrigierten Pixelkoordinaten vorgenommen.A method for geometrically calibrating a camera is off J. Heikkila, O. Silven: A Four-step Camera Calibration Procedure with Implicit Image Correction, Proceedings IEEE Computer Society Conference Computer Vision and Pattern Recognition (1997) known. This method is multi-step based on a DLT (direct linear transform) approach. The calibration object is a three-dimensional object composed of multiple levels of dot grids, each level being represented by an orientation of a point grid having a planar circle point relative to the camera. After determining the centers of the circle points in the images of the dot grid, the DLT is performed for an initial estimate of the parameters. Thereafter, a nonlinear optimization of the parameters including parameters for radial and tangential lens distortions is performed. Heikkila and Silven were aware that due to perspective distortion, the ellipse centers do not correspond to the center points of the circle points. Therefore, in the third stage, the measured pixel coordinates are corrected on the basis of the previously known parameters. Subsequently, the non-linear optimization is performed again on the corrected pixel coordinates.

Ein zur Detektion von Geraden in einem Bild häufig eingesetztes Werkzeug ist die Hough-Transformation. Die Hough-Transformation wurde nach ihrem Erfinder Paul V.C. Hough benannt, der dieses Verfahren in den sechziger Jahren für die Erkennung von komplexen Strukturen entwickelte. Die Erkennung von Geraden ist der einfachste Spezialfall der Hough-Transformation. Geraden lassen sich durch zwei Größen parametrisieren, den Abstand zum Ursprung – im Zusammenhang der Kalibrierung von Kameras oder von Projektoren mit Hilfe von Kameras praktischerweise die Bildmitte – und einem Winkel, der die Orientierung der Geraden angibt. Für diesen Parameterraum wird ein diskretes Akkumulatorfeld angelegt. Für jeden Pixel des ursprünglichen Bildes werden alle möglichen Parameter einer Geraden berechnet, die durch diesen Pixel verlaufen. Zu den Zellen des Akkumulatorfeldes der entsprechenden Geraden wird die Helligkeit des Pixels addiert. Dadurch entstehen im Akkumulatorfeld an den Stellen Helligkeitsspitzen, die im Bild befindenden Geraden entsprechen. Der Prozess der Hough-Transformation ist offensichtlich zeitaufwändig. Eine einfache Maßnahme zu seiner Beschleunigung besteht darin, nur Pixel im Ursprungsbild zu betrachten, deren Helligkeitswert einen Schwellwert überschreitet.One Tool used for detecting straight lines in an image is the Hough transformation. The Hough Transformation was named after its inventor Paul V.C. Hough named this process in the sixties for detection developed from complex structures. The detection of straight lines is the simplest special case of the Hough transformation. Straight lines can be parameterize by two sizes, the distance to the origin - in Correlation of calibration of cameras or projectors with Help from cameras conveniently the center of the picture - and one Angle indicating the orientation of the line. For this Parameter space a discrete accumulator field is created. For each Pixel of the original Picture will be all possible Calculates parameters of a line passing through this pixel. To the cells of the accumulator field of the corresponding straight line is the brightness of the pixel is added. This results in the accumulator field Bright spots in the places, the lines in the picture correspond. The process of Hough transformation is obvious time-consuming. A simple measure to its acceleration is just pixels in the source image to consider whose brightness value exceeds a threshold.

Die bislang bekannten Verfahren zur geometrischen Kalibrierung einer Kamera leiden darunter, dass sie praktisch nicht automatisierbar sind. Häufig führen bereits Beleuchtungsunterschiede bei dem im Rahmen der Kalibrierung mit der Kamera abgebildeten Muster zu Ungenauigkeiten der Kalibrierung. Wenn nicht das gesamte Muster in seinen Abbildern zu sehen ist, ist eine Zuordnung von Punkten in den Abbildern zu Raumkoordinaten entweder gar nicht mehr oder nur noch mit manuellem Eingriff möglich.The Previously known method for geometrical calibration of a Camera suffer from the fact that they are virtually impossible to automate are. Often to lead already illumination differences in the case of the calibration Camera imaged pattern for calibration inaccuracies. If not the entire pattern can be seen in his images, is an assignment of points in the images to spatial coordinates either no longer possible or only possible with manual intervention.

AUFGABE DER ERFINDUNGOBJECT OF THE INVENTION

Der Erfindung liegt die Aufgabe zugrunde, Verfahren mit den Merkmalen der Oberbegriffe der Patentansprüche 1 und 2 aufzuzeigen, die eine möglichst sichere und damit automatisierbare Kalibrierung von optischen Messsysteme zur Erstellung einer eindeutigen und genauen Zuordnung von Raumkoordinaten zu Pixelkoordinaten für jede Kamera bzw. jeden Projektor erlauben.Of the Invention is based on the object, methods with the features the preambles of the claims 1 and 2 show the one possible safe and thus automatable calibration of optical measuring systems for creating a clear and precise assignment of spatial coordinates to pixel coordinates for allow any camera or projector.

LÖSUNGSOLUTION

Die Aufgabe der Erfindung wird durch ein Verfahren zur Kalibrierung einer Kamera mit den Merkmalen des unabhängigen Patentanspruchs 1 und durch ein Verfahren zur Kalibrierung eines Projektors mit den Merkmalen des unabhängigen Patentanspruchs 2 gelöst. Bevorzugte Ausführungsformen dieser beiden Verfahren sind in den abhängigen Patentansprüchen 3 bis 11 beschrieben. Der abhängige Patentanspruch 12 betrifft eine bevorzugte Ausführungsform des neuen Verfahrens zur Kalibrierung einer Kamera, während der neue Patentanspruch 13 eine bevorzugte Ausführungsform des neuen Verfahrens zur Kollidierung eines Projektors beschreibt.The The object of the invention is achieved by a method for calibration a camera with the features of independent claim 1 and by a method of calibrating a projector with the features of the independent Patent claim 2 solved. Preferred embodiments These two methods are described in dependent claims 3 to 11 described. The dependent Claim 12 relates to a preferred embodiment of the new method to calibrate a camera while the new claim 13, a preferred embodiment of the new method describes how to collide a projector.

BESCHREIBUNG DER ERFINDUNGDESCRIPTION OF THE INVENTION

Bei den neuen Verfahren sowohl zur Kalibrierung einer Kamera als auch eines Projektors, wobei im Weiteren das Verfahren zur Kalibrierung einer Kamera auch als repräsentativ für das Verfahren zur Kalibrierung eines Projektors näher beschrieben wird, ist mindestens einer der Kreuzungspunkte in dem Schachbrettmuster mit einer durch Bildverarbeitung der Abbilder des Schachbrettmusters lesbaren Positionsangabe markiert, die eine Kodierung der Orientierung und der Lage der Kreuzungspunkts innerhalb des Schachbrettmusters umfasst. Diese Kodierung ermöglicht eine Zuordnung der Kreuzungspunkte der Abbilder des Schachbrettmusters zu den damit definierten Raumpunkten unabhängig davon, ob die äußeren Begrenzungen des Schachbrettmusters, d. h. das jeweils vollständige Schachbrettmuster in seinen Abbildern zu sehen ist oder nicht. Dadurch, dass die Positionsangabe sowohl die Orientierung als auch die Lage des Kreuzungspunkts innerhalb des Schachbrettmusters angibt, können immer auch die Lagen der benachbarten und damit letztlich aller Kreuzungspunkte innerhalb des Schachbrettmusters bestimmt werden; und die Kreuzungspunkte können in allen Bereichen der Abbilder des Schachbrettmusters vorgesehen und ausgewertet werden, so dass der Gesamte Abbildungsbereich der jeweiligen Kamera Berücksichtigung findet. Indem die Positionsangabe durch Bildverarbeitung der Abbilder des Schachbrettmusters lesbar ist, ist damit ein Weg gegeben, jeden Kreuzungspunkt in einem Abbild des Schachbrettmusters automatisch einem Kreuzungspunkt des Schachbrettmusters selbst und damit einer Raumlage zuzuordnen.at the new method both for calibrating a camera and of a projector, the procedure for calibration a camera as representative for the Procedure for calibrating a projector is described in detail at least one of the crossing points in the checkerboard pattern with a through Image processing of the images of the checkerboard pattern readable position indication marked, which is a coding of the orientation and the position of the crossing point within the checkerboard pattern. This coding allows a Assignment of the crossing points of the images of the checkerboard pattern to the spatial points defined with it, regardless of whether the outer boundaries the checkerboard pattern, d. H. each complete checkerboard pattern in his images or not. Because the position information both the orientation and the location of the crossing point within of the checkerboard pattern indicates always the positions of the neighboring ones and therefore of all Crossing points are determined within the checkerboard pattern; and the crossing points can be in provided in all areas of the images of the checkerboard pattern and be evaluated so that the total imaging range of the respective Camera consideration place. By the position indication by image processing of the images of the checkerboard pattern is a way given to everyone Intersection point in an image of the checkerboard pattern automatically a crossing point of the checkerboard pattern itself and thus one Allocate spatial position.

Die Positionsangabe kann konkret zweiteilig aufgebaut sein, wobei ein Teil den jeweiligen Kreuzungspunkt und seine Orientierung innerhalb des Schachbrettmusters bezeichnet und ein anderer Teil die Lage des Kreuzungspunkts innerhalb des Schachbrettmusters z. B. in Form von Flächenkoordinaten bezeichnet. In jedem Fall weist die Positionsangabe den zweiten Teil auf. Die Funktion des ersten Teils kann bezüglich der Bezeichnung, d.h. Festlegung des jeweiligen Kreuzungspunkts, auf den sich die Positionsangabe bezieht, auch durch den zweiten Teil erfüllt werden und bezüglich der Orientierung innerhalb des Schachbrettmusters durch benachbarte Positionsangaben. Durch den Abgleich von Positionsangaben zu mehreren Kreuzungspunkten, die die Lagen der markierten Kreuzungspunkte innerhalb des Schachbrettmusters bezeichnet, lässt sich auch dann die Orientierung der Kreuzungspunkte innerhalb des Schachbrettmusters bestimmen, wenn diese nicht in jeder Positionsangabe enthalten ist. Bei der vorliegenden Erfindung ist es aber bevorzugt, wenn jede einzelne Positionsangabe eine eigene Kodierung der Orientierung des jeweiligen Kreuzungspunkts aufweist, die unabhängig von den Positionsangaben zu anderen Kreuzungspunkten auswertbar ist.The Position indication can be concretely constructed in two parts, with a Part the respective crossing point and its orientation within of the checkerboard pattern and another part the location the crossing point within the checkerboard pattern z. B. in shape of area coordinates designated. In any case, the position indication has the second Part up. The function of the first part may vary with respect to the name, i. Definition of the respective intersection point to which the position information is based also be fulfilled by the second part and with respect to the Orientation within the checkerboard pattern through adjacent ones Position specifications. By comparing position information to several Crossing points that indicate the locations of marked crossing points within of the checkerboard pattern, can also be the orientation determine the crossing points within the checkerboard pattern, if this is not included in every position statement. In the However, it is preferred if present invention Position indication a separate coding of the orientation of the respective Point of intersection, which is independent of the position information can be evaluated to other intersection points.

Ganz konkret kann die Positionsangabe durch helle Punkte in dunklen Schachbrettfeldern und/oder durch dunkle Punkte in hellen Schachbrettfeldern binär kodiert sein. Dabei ist vorgesehen, je Schachbrettfeld jeweils nur einen oder keinen hellen bzw. dunklen Punkt für die Kodierung zu verwenden. Helle Punkte in dunklen Schachbrettfeldern bzw. dunkle Punkte in hellen Schachbrettfeldern stellen einen maximalen Kontrast für ein Lesen der Positionsangabe durch Bildverarbeitung bereit.All concretely, the position can be indicated by bright points in dark checkerboard fields and / or binary-coded by dark dots in bright checkerboard fields be. It is provided, each chessboard box only one or not to use a bright or dark dot for coding. Bright dots in dark checkerboard fields or dark spots in bright checkerboard fields provide maximum contrast for reading the position information by image processing ready.

Die binäre Kodierung der Positionsangabe erlaubt es, die Lage des Kreuzungspunkts innerhalb des Schachbrettmusters in binären Zahlen zu kodieren. Dabei kann auch eine Flächenkoordinate durch eine einzige binäre Zahl kodiert sein. Die Bezeichnung des jeweiligen Kreuzungspunkts selbst und seine Orientierung in dem Schachbrettmuster können durch jedes binäre Muster erfolgen, das seinerseits eine eindeutige Orientierung aufweist. Dies bedeutet, dass es dem Muster an jeder Rotationssymmetrie fehlen muss. Vorzugsweise ist es auch nicht punktsymmetrisch, weil dann auch eine Spiegelung des abgebildeten Schachbrettmusters erkannt werden kann.The binary Encoding the position specification allows the location of the crossing point encode within the checkerboard pattern in binary numbers. there can also be a surface coordinate through a single binary Number to be coded. The name of the respective crossing point himself and his orientation in the checkerboard pattern can through every binary Pattern, which in turn has a clear orientation. This means that the pattern is missing from any rotational symmetry got to. Preferably, it is also not point-symmetrical, because then also a reflection of the pictured checkerboard pattern recognized can be.

Wie bereits im Zusammenhang damit angedeutet wurde, dass die Orientierung eines Kreuzungspunkts auch aus Positionsangaben zu anderen Kreuzungspunkten ableitbar ist, können bei der Erfindung auch mehrere Kreuzungspunkte mit Positionsangaben versehen sein. Es ist sogar bevorzugt, wenn über die gesamte Fläche des Schachbrettmusters verteilt Kreuzungspunkte mit Positionsangaben versehen sind. Besonders bevorzugt ist es, wenn ein zweidimensionales Raster von Kreuzungspunkten in dem Schachbrettmuster mit den Positionsangaben versehen ist.As already indicated that orientation a crossing point also from position information to other crossing points can be deduced in the invention also several crossing points with position information be provided. It is even preferable if over the entire surface of the Checkerboard pattern distributes crossing points with position information are provided. It is particularly preferable if a two-dimensional Grid of crossing points in the checkerboard pattern with the position information is provided.

Das Schachbrettmuster selbst ist bei den neuen Verfahren ein regelmäßiges Schachbrettmuster mit einheitlicher Größe der hellen und dunklen Felder und damit bekanntem Abstand seiner Kanten in beiden Richtungen, das ohne Sichtbarkeit seiner äußeren Begrenzungen und ohne die erfindungsgemäßen Positionsangaben keinerlei absolute Orientierung innerhalb eines Ausschnitts des Schachbrettmusters erlaubt.The The checkerboard pattern itself is a regular checkerboard pattern in the new methods with uniform size of light and dark fields and thus known distance of its edges in both directions, without visibility of its outer limits and without the position information according to the invention no absolute orientation within a section of the Checkered pattern allowed.

Auch bei der vorliegenden Erfindung ist es bevorzugt, wenn zunächst Groblagen der Kreuzungspunkte der Kanten ermittelt werden, die dann als Aufpunkte für eine subpixelgenaue Bestimmung der Lage der zugehörigen Sattelpunkte der Helligkeitsintensitätsverteilung verwendet werden.Also in the present invention, it is preferred if first coarse layers of the crossing points of the edges are determined, which then as Aufpunkte for a subpixel accurate determination of the location of the supplied Hindered saddle points of the brightness intensity distribution can be used.

Für die Ermittlung der Groblagen der Kreuzungspunkte der Kanten ist es bevorzugt, die einzelnen Abbilder des Schachbrettmusters mit einem Kantenoperator zu bearbeiten und anschließend in der Mitte des jeweiligen Abbilds eine Hough-Transformation durchzuführen. Diese zweischrittige Vorgehensweise mit einer Beschränkung der Hough-Transformation auf den Mittelpunkt des jeweiligen Abbilds führt mit vergleichsweise geringem Aufwand zu sicheren Vorgabewerten für die anschließende subpixelgenaue Bestimmung der Sattelpunkte der Helligkeitsintensitätsverteilung. Durch die Beschränkung der Hough-Transformation auf den Bereich der Mitte des jeweiligen Abbilds machen sich Störeffekte aus den Randbereichen des jeweiligen Abbilds im Ergebnis der Hough-Transformation nicht bemerkbar. Die Bestimmung der Groblagen der Kreuzungspunkte in der Mitte des jeweiligen Abbilds ist aber ausreichend, um hieraus direkt oder nach subpixelgenauer Bestimmung der Lagen der Sattelpunkte der Helligkeitsintensitätsverteilung auch auf die Groblagen benachbarter Kreuzungspunkte zu extrapolieren.For the investigation the coarse layers of the crossing points of the edges, it is preferred that individual images of the checkerboard pattern with an edge operator to edit and then to perform a Hough transformation in the middle of the respective image. These two-step procedure with a limitation of the Hough transformation to the center of the respective image leads with comparatively low Effort to secure default values for the subsequent subpixel accurate Determination of the saddle points of the brightness intensity distribution. By the restriction the Hough transformation to the area of the middle of each The image is disturbed from the border areas of the respective image as a result of the Hough transformation not noticeable. The determination of the coarse layers of the crossing points but in the middle of the respective image is sufficient to get out of it directly or after subpixel accurate determination of the positions of the saddle points the brightness intensity distribution also extrapolate to the coarse layers of adjacent crossing points.

Die Erstellung von Punktkorrespondenzlisten, in dem den Lagen der Kreuzungspunkte in den Abbildern des Schachbrettmusters Raumkoordinaten zugeordnet werden, kann bei der vorliegenden Erfindung mit hoher Zuverlässigkeit vollautomatisch erfolgen. Hieran schließt sich dann die Auswertung der Punktkorrespondenzlisten an, um die Abbildungsparameter und die Position der Kamera oder die Projektionsparameter und die Position des Projektors zu bestimmten. Als günstige und gut automatisierbare Vorgehensweise hat sich dabei die Anwendung des Verfahrens von Heikkila und Silven, aber ohne Berücksichtigung der tangentialen Verzerrung herausgestellt. Der Aufpunkt und die Richtung der Raumkoordinaten können bei dem neuen Verfahren in ansich bekannter Weise durch einen Punkt im Messraum und eine diesen Punkt einschließende Ebene vorgegeben werden.The Creation of point correspondence lists, in which the positions of the crossing points assigned in the images of the checkerboard pattern space coordinates can be in the present invention with high reliability fully automatic. This is followed by the evaluation the point correspondence lists to the mapping parameters and the position of the camera or the projection parameters and the position of the projector. As cheap and easy to automate Approach has thereby the application of the method of Heikkila and Silven, but without consideration exposed to the tangential distortion. The Aufpunkt and the Direction of the spatial coordinates can in the new method in a known manner by a point in the measuring room and a level including this point.

Bei einem besonders bevorzugten erfindungsgemäßen Verfahren zur Kamerakalibrierung werden mindestens zwei fest zueinander ausgerichtete Kameras gleichzeitig kalibriert, wobei die Orientierungsänderung des Schachbrettmusters, die aus seinen Abbildern ermittelt werden, gegeneinander abgeglichen werden. Bei räumlichen optischen Messsystemen sind sowieso mehrere Kameras zu kalibrieren, wobei es letztlich auch auf die Orientierung der Kameras relativ zueinander ankommt. Diese Kalibrierung kann im Rahmen des erfindungsgemäßen Verfahrens dadurch stark beschleunigt werden, dass berücksichtigt wird, dass sämtliche Orientierungsänderungen des Schachbrettmusters sich zwar nicht identisch auf seine Abbildungen mit den einzelnen Kameras auswirken, diese Auswirkungen aber korreliert sind. Konkret reicht es bei einem Abgleich zwischen den Kameras beispielsweise für die Kalibrierung von zwei stereoskopisch angeordneten Kameras aus, ein Schachbrettmuster in nur zwei unterschiedlichen Orientierungen gegenüber den beiden Kameras aufzunehmen.at a particularly preferred method according to the invention for camera calibration be at least two cameras aligned with each other at the same time calibrated, the orientation change of the checkerboard pattern, which are determined from his images, compared against each other become. In spatial optical measuring systems are anyway to calibrate multiple cameras, In the end it is also relative to the orientation of the cameras arrives to each other. This calibration can in the context of the method according to the invention be greatly accelerated by taking into account that all the orientation changes of the checkerboard pattern is not identical to his pictures with the individual cameras, but these effects are correlated are. Specifically, it is sufficient for a comparison between the cameras for example the calibration of two stereoscopically arranged cameras, a checkerboard pattern in only two different orientations across from to record the two cameras.

Umgekehrt kann auch die Kalibrierung eines Projektors beschleunigt werden, wenn das auf den Schirm projizierte Schachbrettmuster mit mindestens zwei fest zueinander ausgerichteten Kameras abgebildet wird, wobei die Orientierungsänderung des Schirms, die aus den Abbildern des Schachbrettmusters ermittelt werden, gegeneinander abgeglichen werden.Vice versa can also speed up the calibration of a projector, if the checkerboard pattern projected onto the screen has at least two fixedly aligned cameras is shown, wherein the orientation change of the screen, which are detected from the images of the checkerboard pattern, be compared against each other.

Vorteilhafte Weiterbildungen der Erfindung ergeben sich aus den Patentansprüchen, der Beschreibung und den Zeichnungen. Die in der Beschreibungseinleitung genannten Vorteile von Merkmalen und von Kombinationen mehrerer Merkmale sind lediglich beispielhaft und können alternativ oder kumulativ zur Wirkung kommen, ohne dass die Vorteile zwingend von erfindungsgemäßen Ausführungsformen erzielt werden müssen. Weitere Merkmale sind den Zeichnungen – insbesondere den dargestellten Geometrien und den relativen Abmessungen mehrerer Bauteile zueinander sowie deren relativer Anordnung und Wirkverbindung – zu entnehmen. Die Kombination von Merkmalen unterschiedlicher Ausführungsformen der Erfindung oder von Merkmalen unterschiedlicher Patentansprüche ist ebenfalls abweichend von den gewählten Rückbeziehungen der Patentansprüche möglich und wird hiermit angeregt. Dies betrifft auch solche Merkmale, die in separaten Zeichnungen dargestellt sind oder bei deren Beschreibung genannt werden. Diese Merkmale können auch mit Merkmalen unterschiedlicher Patentansprüche kombiniert werden. Ebenso können in den Patentansprüchen aufgeführte Merkmale für weitere Ausführungsformen der Erfindung entfallen.advantageous Further developments of the invention will become apparent from the claims, the Description and the drawings. The in the introduction to the description advantages of features and combinations of several Features are merely exemplary and may be alternative or cumulative come into effect, without the benefits of mandatory embodiments of the invention must be achieved. Other features are the drawings - in particular the illustrated Geometries and the relative dimensions of several components to each other as well as their relative arrangement and operative connection - can be seen. The combination of features of different embodiments the invention or features of different claims also different from the selected ones Relationships of the claims possible and is hereby stimulated. This also applies to such features are shown in separate drawings or in their description to be named. These features can be combined with features of different claims. As well can in the claims listed features for further embodiments the invention omitted.

KURZBESCHREIBUNG DER FIGURENBRIEF DESCRIPTION OF THE FIGURES

Die Erfindung wird im Folgenden anhand eines konkreten Ausführungsbeispiels näher erläutert und beschrieben.The Invention will be described below with reference to a specific embodiment explained and described in detail.

1 zeigt ein Schachbrettmuster zur Verwendung bei den erfindungsgemäßen Verfahren. 1 shows a checkerboard pattern for use in the inventive methods.

2 zeigt die Helligkeitsintensitätsverteilung im Bereich eines Kreuzungspunkts von Kanten des Schachbrettmusters gemäß 1. 2 shows the brightness intensity distribution in the region of a crossing point of edges of the checkerboard pattern according to FIG 1 ,

3 zeigt ein schräg aufgenommenes Abbild des Schachbrettmusters gemäß 1 nach Anwendung eines Kantenoperators und unter Hervorhebung eines mittleren Kreisausschnittes. 3 shows an obliquely recorded image of the checkerboard pattern according to 1 after applying an edge operator and emphasizing a middle circle cutout.

4 zeigt das Ergebnis einer Hough-Transformation innerhalb des Kreisausschnittes gemäß 3 mit markierten Intensitätsspitzen, die für je drei Geraden eine Orientierung mit kleinstem Abstand zur Bildmitte stehen. 4 shows the result of a Hough transformation within the circle section according to 3 with marked intensity peaks, which stand for each three lines an orientation with the smallest distance to the center of the image.

5 zeigt ein 3 entsprechendes, schräg aufgenommenes Abbild des Schachbrettmusters gemäß 1 mit den gemäß 4 detektierten mittleren Geraden; und 5 shows a 3 corresponding obliquely recorded image of the checkerboard pattern according to 1 with the according to 4 detected middle straights; and

6 zeigt ein Beispiel einer binär kodierten Positionsangabe zu einem Kreuzungspunkt in dem Schachbrettmuster gemäß 1. 6 shows an example of a binary coded position indication to a cross point in the checkerboard pattern according to FIG 1 ,

FIGURENBESCHREIBUNGDESCRIPTION OF THE FIGURES

Der bei der im Folgenden beschriebenen Ausführungsform eines Verfahrens zur Kalibrierung einer Kamera verwendete Subpixel-Detektor für die Kreuzungspunkte der Kanten des Schachbrettmusters ist in D. Chen, G. Zhang: A New Sub-Pixel Detector for X-Corners in Camera Calibration targets. School of Instruments Science and Photoelectric Engineering. Bejing University of Aeronautics and Astronautics (2005) offenbart. Das zur Auswertung der Punktkorrespondenzlisten verwendete Verfahren wird von Z. Zhang: Flexible Camera Calibration By Viewing a Plane From Unknown Orientations. International Conference an Computer Vision (ICCV'99), Seiten 666-673, September (1999) beschrieben. Das dabei hier verwendete Kameramodell von Heikkila und Silven ist in J. Heikkila, O. Silven: A Four-step Camera Calibration Procedure with Implicit Image Correction. Proceedings IEEE Computer Society Conference Computer Vision and Pattern Recognition (1997) zu finden.The subpixel detector used in the below described embodiment of a method for calibrating a camera for the crossing points of the edges of the checkerboard pattern is shown in FIG Chen, G. Zhang: A New Sub-Pixel Detector for X-Corners in Camera Calibration targets. School of Instruments Science and Photoelectric Engineering. Beijing University of Aeronautics and Astronautics (2005) disclosed. The method used to evaluate the point correspondence lists is provided by Z. Zhang: Flexible Camera Calibration By Viewing A Plane From Unknown Orientations. International Conference on Computer Vision (ICCV'99), pp. 666-673, September (1999) described. The here used camera model of Heikkila and Silven is in J. Heikkila, O. Silven: A Four-step Camera Calibration Procedure with Implicit Image Correction. Proceedings IEEE Computer Society Conference Computer Vision and Pattern Recognition (1997) to find.

Als Kalibrierungsobjekt wird bei den erfindungsgemäßen Verfahren ein Schachbrettmuster gemäß 1 eingesetzt, das in verschiedenen Relativstellungen abgebildet wird. Dabei wird ausgenutzt, dass die Kreuzungspunkte der Kanten eines Schachbrettmusters, die so genannten "X-Corners", in jedem Abbild des Schachbrettmusters Sattelpunkte der Helligkeitsintensitätsverteilung sind. Wird die Helligkeitsintensitätsverteilung eines Abbilds aufgrund einer streng monotonen Transferfunktion verändert, bleiben die X- und Y-Positionen solcher Sattelpunkte konstant. Die Lagen der Sattelpunkte können also genau bestimmt werden, ohne die Transferfunktion einer Kamera kennen zu müssen. Unabhängig von der Abbildungsgröße der Felder des Schachbrettmusters sieht die Umgebung eines seiner Sattelpunkte immer gleich aus, siehe 2. Nur die Orientierungen der Kanten kann sich durch eine perspektivische Abbildung verändern. Die Sattelpunkteigenschaft und damit deren Position bleiben aber erhalten.As a calibration object in the method according to the invention a checkerboard pattern according to 1 used, which is mapped in different relative positions. It is exploited that the crossing points of the edges of a checkerboard pattern, the so-called "X-Corners" in each image of the checkerboard pattern are saddle points of the brightness intensity distribution. When the brightness intensity distribution of an image is changed due to a strictly monotone transfer function, the X and Y positions of such saddle points remain constant. The positions of the saddle points can thus be determined exactly without having to know the transfer function of a camera. Regardless of the size of the fields of the checkerboard pattern, the environment of one of its saddle points always looks the same, see 2 , Only the orientations of the edges can change through a perspective image. The saddle point property and thus their position are retained.

Die Detektierung markanter Punkte eines Kalibrierungsobjekts sollte nach Möglichkeit ohne große Benutzerinteraktion funktionieren. Wenn beispielsweise ein Mehrkamerasystem mit 9 oder mehr Kameras kalibriert werden soll und pro Kamera fünf Kalibrierungsbilder anfallen, wäre es bereits sehr zeitaufwändig, in jedem Bild manuell per Mausklick einen Referenzpunkt und die Orientierung der X- und Y-Achse anzugeben. Diese Informationen sind aber erforderlich, da gemessene Pixelkoordinaten allein nicht für die Bestimmung extrinsischer Kameraparameter ausreichen. Für jeden erkannten Merkmalspunkt brauchen die photogrammetrischen Kalibrierungsverfahren auch dessen 3D-Koordinate im Weltkoordinatensystem. Um die Notwendigkeit einer Benutzerinteraktion bei der Erkennung des bei den erfindungsgemäßen Verfahren als Kalibrierungsobjekt verwendeten Schachbrettmusters und der Zuordnung von Raumkoordinaten zu Pixelkoordinaten zu beseitigen, müssen die Orientierung des Schachbrettmusters sowie ein Referenzpunkt automatisch bestimmbar sein. Außerdem ist es wünschenswert, das Kalibrierungsobjekt zu Gunsten einer hohen Genauigkeit bildfüllend aufzunehmen, so dass auch Punktmerkmale im Außenbereich zur Berechnung der Abbildungsparameter herangezogen werden können. Dies schließt aber eine Markierung des Musters am Rand für eine eindeutige Zuordnung der Merkmale aus, da diese möglicherweise nicht sichtbar ist. Zur eindeutigen Markierung bestimmter Punkte wird durch die vorliegende Erfindung ein binäres Kodierungsmuster bereitgestellt, das bereits in 1 zu erkennen ist und anhand von 6 unten weiter erläutert werden wird.The detection of prominent points of a calibration object should work as far as possible without much user interaction. If, for example, a multi-camera system with 9 or more cameras is to be calibrated and five calibration images are taken per camera, it would be very time-consuming to manually specify a reference point and the orientation of the X and Y axes in each image by mouse click. However, this information is required because measured pixel coordinates alone are not sufficient for determining extrinsic camera parameters. For each detected feature point, the photogrammetric calibration methods also need its 3D coordinate in the world coordinate system. In order to eliminate the need for user interaction in the recognition of the checkerboard pattern used in the inventive method as a calibration object and the assignment of spatial coordinates to pixel coordinates, the orientation of the checkerboard pattern and a reference point must be automatically determined. In addition, it is desirable to receive the calibration object in full image in favor of a high accuracy, so that also point features in the outer area can be used to calculate the imaging parameters. However, this precludes marking the pattern on the edge for a clear assignment of the features, as this may not be visible. To uniquely mark certain points, the present invention provides a binary coding pattern which is already described in US Pat 1 can be recognized and based on 6 will be explained further below.

Eine Kante trennt helle von dunklen Bildbereichen. Durch einen Kantenoperator wird jedem Pixel eines Bilds ein neuer Helligkeitswert durch den Betrag des Gradienten der ursprünglichen Helligkeitsintensitätsverteilung zugeordnet. Dadurch werden Pixel, die sich in der Nähe von Kanten befinden, auf einen hohen Helligkeitswert gesetzt und andere auf niedrige Helligkeitswerte. Bedient man sich eines solchen Kantenoperators wird aus dem mit einer Kamera abgebildeten Schachbrettmuster ein Kantenbild mit einem Liniengitter gewonnen (siehe 3), in dem die Kodierungsmuster erhalten bleiben.An edge separates light from dark areas. An edge operator assigns each pixel of a picture a new brightness value by the magnitude of the gradient of the original brightness intensity distribution. As a result, pixels that are near edges are at a high brightness value and others to low brightness values. If one uses such an edge operator, an edge image with a line grid is obtained from the checkerboard pattern imaged with a camera (see 3 ), in which the coding patterns are preserved.

Mit Hilfe einer Hough-Transformation ist es möglich, Lagen und Orientierungen von Geraden in einem Bild zu erkennen, indem Intensitätsspitzen des "Hough-Bildes" gesucht werden. Eine Anwendung der Hough-Transformation auf ein vollständiges Bild gemäß 3 ist allerdings aus mehreren Gründen unpraktisch:

  • – Linien, die eine große Entfernung zum Bildmittelpunkt aufweisen, werden durch die radiale Linsenverzerrung gekrümmt. Die Erkennung solcher Linien über eine Hough-Transformation zur Erkennung von Geraden ist schwierig, da durch die Krümmung keine klare Intensitätsspitze im Hough-Bild mehr entsteht.
  • – Wenn der Bereich, in dem das Kalibrierungsmuster zu sehen ist, nicht kreisrund ist, sind die Linien unterschiedlicher Orientierung unterschiedlich lang. Dies beeinflusst die Spitzenhöhen im Hough-Bild unterschiedlich, so dass es schwieriger wird, einen geeigneten Spitzenschwellwert zu bestimmen.
  • – Die Anwendung einer Hough-Transformation auf volle hochauflösende Bilder ist zeitintensiv.
With the aid of a Hough transformation, it is possible to detect positions and orientations of straight lines in an image by searching for intensity peaks of the "Hough image". An application of the Hough transformation to a complete image according to 3 However, it is impractical for several reasons:
  • Lines which are far away from the center of the image are curved by the radial lens distortion. Detecting such lines via a Hough transform to detect straight lines is difficult because the curvature no longer produces a clear intensity peak in the Hough image.
  • - If the area in which the calibration pattern is visible is not circular, the lines of different orientation are different in length. This affects the peak heights in the Hough image differently, making it harder to determine an appropriate peak threshold.
  • - Applying a Hough transform to full high-resolution images is time consuming.

Aus diesen Gründen wird die Hough-Transformation hier nur auf einen kreisförmigen mittleren Ausschnitt des Kantenbilds angewandt (siehe den hellen Bereich in 3). Die Hough-Transformation lässt sich weiter beschleunigen, indem nur Pixel des Ursprungsbilds berücksichtigt werden, deren Wert einen bestimmten Schwellwert überschreitet. Die restlichen Pixel hätten nur einen geringen Einfluss auf das Ergebnis. Konkret werden die Pixelwerte des Kantenbilds zu Anfang der Hough-Transformation normalisiert. Ein dazu verwendeter Schwellwert von 1/16 wurde bei der Hough-Transformation experimentell daraus ermittelt, dass die inneren Bereiche der Felder im Wesentlichen ignoriert werden. Der Kreisradius r in Pixel der Fläche, deren Hough-Transformation berechnet wird, hängt wie folgt von der Bildbreite w und Bildhöhe h ab: r = min(w, h)/4.For these reasons, the Hough transformation is applied here only to a circular middle section of the edge image (see the bright area in FIG 3 ). The Hough transform can be further accelerated by taking into account only pixels of the original image whose value exceeds a certain threshold. The remaining pixels would only have a small influence on the result. Specifically, the pixel values of the edge image are normalized at the beginning of the Hough transform. A threshold value of 1/16 used for this purpose was determined experimentally in the Hough transformation, that the inner areas of the fields are essentially ignored. The circle radius r in pixels of the area whose Hough transformation is calculated depends on the image width w and image height h as follows: r = min (w, h) / 4.

Nachdem die Hough-Transformation durchgeführt wurde, werden die Pixelwerte des Hough-Bilds (siehe 4) wieder normalisiert, so dass der kleinste Wert auf 0 und der größte Wert auf 1 abgebildet wird. Um die Spitzen im Hough-Bild hx , y finden zu können, werden zunächst all die Pixelkoordinaten (u, v) als Kandidaten für lokale Maxima gesucht, für die folgende zwei Bedingungen gelten: sign(hu,v – hu+1,v) + sign(hu,v – hu-1,v) > 0 sign(hu,v – hu,v+1) + sign(hu,v – hu,v-1) > 0 After the Hough transform has been performed, the pixel values of the Hough image (see 4 ) is normalized again so that the smallest value is mapped to 0 and the largest value to 1. In order to be able to find the peaks in the Hough image h x , y , first all the pixel coordinates (u, v) are searched for as candidates for local maxima, for which the following two conditions apply: sign (h u, v - H u + 1, v ) + sign (h u, v - H u-1, v )> 0 sign (h u, v - H u, v + 1 ) + sign (h u, v - H u, v-1 )> 0

Für jede Pixelkoordinate, die diese Bedingungen erfüllt, werden der Wert und eine subpixelgenaue Position des lokalen Maximums bestimmt, indem die Koeffizienten a, b, c, d eines elliptischen Paraboloiden ermittelt werden, der den Bildausschnitt der 5 umliegenden Pixel (hu,v, hu-1,v, hu+1,v, hu,v-1, hu,v+1) durch f(x, y) = hu,v + a(x – u) + b(x – u)2 + c(y – v) + d(y – v)2 (I)beschreibt und dessen Extremstelle (s, t) zu s = u – a/2b t = v – c/2dbestimmt werden kann. Der Wert der Extremstelle kann durch Einsetzten von s und t in die Gleichung (I) berechnet werden. Überschreitet dieser Wert einen Schwellwert – die aktuelle Implementierung verwendet einen Schwellwert von 5/16 – so werden die Stelle und der Wert des Extremums in einer Liste gespeichert. Nachdem all diese lokalen Extrems bestimmt worden sind, werden diese in Abhängigkeit ihres Wertes absteigend sortiert. Der Reihe nach wird jedes Extremum einer von drei Gruppen zugeordnet: Zwei Gruppen für zwei mögliche Orientierungen (horizontale und vertikale Kanten des Schachbrettmusters werden isoliert, diese liegen jeweils auf einer Geraden im Hough-Raum) und eine Gruppe für unerwünschte erkannte Extrems, deren Abstand zu beiden bisher ermittelten Geraden im Hough-Raum zu hoch ist. Nach der Gruppierung lassen sich für jede Kantenorientierung im Schachbrettmuster drei Geraden ermitteln, die am nächsten an der Bildmitte liegen (siehe 5). Die äußeren zwei der drei Geraden jeder Orientierung lassen sich miteinander schneiden, wodurch 4 Kreuzungspunkte anfallen, die 2 × 2-Felder einschließen. Diese vier Kreuzungspunkte werden an die nächste Stufe der Bilderkennung weitergegeben.For each pixel coordinate that satisfies these conditions, the value and a subpixel-exact position of the local maximum are determined by finding the coefficients a, b, c, d of an elliptic paraboloid that covers the image section of the 5 surrounding pixels (h u, v , h u-1, v , h u + 1, v , h u, v-1 , h u, v + 1 ) f (x, y) = h u, v + a (x - u) + b (x - u) 2 + c (y - v) + d (y - v) 2 (I) describes and its extreme point (s, t) to s = u - a / 2b t = v - c / 2d can be determined. The value of the extremum can be calculated by substituting s and t into equation (I). If this value exceeds a threshold - the current implementation uses a threshold of 5/16 - the location and value of the extremum are stored in a list. After all these local extremes have been determined, they are sorted in descending order depending on their value. In turn, each extremum is assigned to one of three groups: two sets of two possible orientations (horizontal and vertical edges of the checkerboard pattern are isolated, each lying on a straight line in Hough space) and a set of unwanted detected extremes whose spacing is to two previously determined straights in Hough space is too high. After the grouping, three straight lines closest to the center of the image can be determined for each edge orientation in the checkerboard pattern (see 5 ). The outer two of the three straight lines of each orientation intersect to form 4 crossing points including 2 × 2 fields. These four crossing points are passed on to the next level of image recognition.

In der nächsten Stufe der Bilderkennung, der Bestimmung der Koordinaten der Kreuzungspunkte, werden anhand der Koordinaten der vier Kreuzungspunkte, die die 2 × 2-Felder des Schachbretts umschließen, die restlichen Kreuzungspunkte ermittelt. Zunächst werden aus den vier Punktkoordinaten die Koordinaten der restlichen 5 Kreuzungspunkte berechnet, die zusammen mit den eingegebenen vier Kreuzungspunkten alle Kreuzungspunktkoordinaten der 2 × 2-Felder beschreiben. Anschließend wird für diese neun Kreuzungspunkte eine Subpixeloptimierung durchgeführt.In the next stage of image recognition, the determination of the coordinates of the crossing points, who is determined by the coordinates of the four crossing points that enclose the 2 × 2 fields of the chess board, the remaining crossing points. First, from the four point coordinates, the coordinates of the remaining 5 crossing points are calculated, which together with the entered four crossing points describe all crossing point coordinates of the 2 × 2 fields. Subsequently, a subpixel optimization is performed for these nine crossing points.

Für die Subpixeloptimierung, d. h. die Lagebestimmung mit besserer Genauigkeit als dem Pixelabstand der jeweiligen Kamera, wird ausgenutzt, dass die Kreuzungspunkte Sattelpunkte der Bildfunktion sind, die mit einem so genannten "X-Corner-Operator" zu finden sind, welcher durch S = rxxryy – rxy 2 gegeben ist. rxx und ryy dabei für die zweifache Ableitung nach x beziehungsweise y und rxy für die Ableitung der Bildfunktion nach x und anschließend nach y. Ein sehr kleiner Wert – üblicherweise kleiner als 0 – deutet auf einen möglichen Kreuzungspunkt hin. Im Diskreten ist eine Ableitung durch die Faltung mit der Impulsantwort eines Differentiators möglich. Um den Einfluss des Bildrauschens auf die Genauigkeit der bestimmten Pixelkoordinaten zu reduzieren, wird ein Gauß-förmiger Tiefpassfilter verwendet. Tiefpass und Differenzierung sind beide als Faltung auffassbar. Weil außerdem die Faltungsoperation kommutativ und assoziativ ist, spielt es keine Rolle, ob zuerst der Tiefpassfilter angewendet wird und anschließend ein Differentiator oder ob das Originalbild mit einer Impulsantwort gefaltet wird, die das Ergebnis einer Faltung aus Tiefpass mit Differenzierung ist. Wird ein Gauß-förmiger Tiefpassfilter benutzt, bietet sich die zweite Variante an, da direkt die partiellen Ableitungen der Gaußschen Glockenkurve berechnet werden können. Dieser Ansatz macht das Design eines Differentiators unnötig. Nach Anwendung des Operators können Kandidaten für mögliche Kreuzungspunkte des Schachbrettmusters durch Aufsuchen von lokalen Minima bestimmt werden. Für die subpixelgenaue Bestimmung des gesuchten Punktes in der näheren Umgebung eines Kandidaten wird das durch den Tiefpass geglättete Bild durch eine abgebrochene Taylor-Reihe mit dem Kandidaten als Entwicklungspunkt (x0, y0) bis zu Termen zweiter Ordnung bestimmt:

Figure 00140001
For the Subpixeloptimierung, ie the position determination with better accuracy than the pixel spacing of the respective camera, it is exploited that the crossing points are saddle points of the image function, which are found with a so-called "X corner operator", which by S = r xx r yy - r xy 2 given is. r xx and r yy for the two-fold derivative with respect to x and y and r xy for the derivation of the image function to x and then to y. A very small value - usually less than 0 - indicates a possible crossing point. In the discrete one derivation by the convolution with the impulse response of a differentiator is possible. To reduce the influence of noise on the accuracy of the particular pixel coordinates, a Gaussian low pass filter is used. Low pass and differentiation are both conceivable as folding. In addition, because the convolution operation is commutative and associative, it does not matter if the lowpass filter is applied first and then a differentiator or if the original image is convolved with an impulse response that is the result of a convolution of lowpass with differentiation. If a Gaussian-shaped low-pass filter is used, the second variant is the obvious choice, since the partial derivatives of the Gaussian bell curve can be calculated directly. This approach makes the design of a differentiator unnecessary. After applying the operator, candidates for possible crossing points of the checkerboard pattern may be determined by searching for local minima. For the subpixel-accurate determination of the desired point in the vicinity of a candidate, the image smoothed by the low-pass filter is determined by a broken Taylor series with the candidate as development point (x 0 , y 0 ) up to second-order terms:
Figure 00140001

Hierbei ist r der Wert der Bildfunktion an der Stelle (x0, y0), rx und ry sind die partiellen Ableitungen erster Ordnung und rxx, rxy, ryy die partiellen Ableitungen zweiter Ordnung an derselben Stelle. Gesucht ist nun eine Korrektur (s, t) der bisher bekannten Koordinaten des Kreuzungspunkts, die zu einer hohen Subpixelgenauigkeit führen soll. Eine notwendige Bedingung für einen Sattelpunkt ist, dass die Ableitung in alle Richtungen 0 ergeben muss. Dies führt zu folgendem Gleichungssystem:

Figure 00140002
Here, r is the value of the image function at the position (x 0 , y 0 ), r x and r y are the first order partial derivatives and r xx , r xy , r yy are the second order partial derivatives at the same location. We are now looking for a correction (s, t) of the previously known coordinates of the crossing point, which should lead to a high subpixel accuracy. A necessary condition for a saddle point is that the derivative must be 0 in all directions. This leads to the following equation system:
Figure 00140002

Nach Lösen dieses Gleichungssystems ist die subpixelgenaue Position der Kreuzungspunkte des Schachbrettmusters durch (x0 + s, y0 + t) gegeben.After solving this system of equations, the subpixel-exact position of the crossing points of the checkerboard pattern is given by (x 0 + s, y 0 + t).

Die Punktkoordinaten der Kreuzungspunkte werden in einer Datenstruktur abgelegt, die einem zweidimensionalen Array ähnlich ist. Dabei entspricht die Adressierung dieser Punkte im Allgemeinen noch nicht dem wirklichen durch das Muster aus weißen und schwarzen Punkten bestimmten Koordinatensystem. Für die Ermittlung der restlichen Pixelkoordinaten von Kreuzungspunkten spielt dies allerdings keine Rolle.The Point coordinates of the crossing points are in a data structure filed, which is similar to a two-dimensional array. It corresponds the addressing of these points in general not yet the real one through the pattern of white and black points specific coordinate system. For the investigation the remaining pixel coordinates of intersection points play this but not important.

Aufgrund etwaiger möglichen Linsenverzeichnungen werden die Koordinaten neuer möglicher Kreuzungspunkte anhand lokaler Nachbarn extrapoliert, so dass der zu berechnende Punkt und die Nachbarn alle auf einer Geraden liegen, beziehungsweise ohne Beachtung von Linsenverzeichnung liegen müssten. Es wird angenommen, dass in der lokalen Umgebung eine perspektivische Abbildung ohne Linsenverzeichnung stattfindet. Nun wird auch deutlich, warum anfangs ein 3 × 3-Punktegitter aus neun Kreuzungspunkten ermittelt wurde. Ausgehend von drei dieser Kreuzungspunkte in einer Zeile oder Spalte können die Koordinaten möglicher umliegender Kreuzungspunkte bestimmt werden. Iterativ werden dadurch und durch eine anschließende Subpixeloptimierung (wie vorstehend) die benachbarten Punkte bestimmt und in die Datenstruktur aufgenommen. Aber nicht an jeder Stelle, wo ein Kreuzungspunkt vermutet wird, liegt tatsächlich einer. Ein Grund dafür kann sein, dass das Kalibrierungsmuster nicht das komplette Blickfeld füllt und der Rand des Musters im Bild sichtbar ist.by virtue of possibly possible Lens distortions will make the coordinates of newer possible Extrapolated crossing points based on local neighbors, so that the point to be calculated and the neighbors all lie on a straight line, or without consideration of lens distortion would have to lie. It It is assumed that in the local environment a perspective Image without lens distortion takes place. Now it becomes clear why at first a 3 × 3-point grid was determined from nine crossing points. Starting from three of these Crossing points in a row or column can make the coordinates more possible surrounding intersection points are determined. Iterative become characterized and by a subsequent subpixel optimization (as above) determines the neighboring points and into the data structure added. But not everywhere, where a crossing point suspects is, is actually a. One reason for that be that the calibration pattern is not the complete field of view fills and the edge of the pattern is visible in the image.

Zur Vermeidung der Bestimmung von nur vermeintlichen Kreuzungspunkten werden nach der Bestimmung der subpixelgenauen Position eines X-Corners zwei weitere Parameter für jeden Kreuzungspunktkandidaten berechnet, die sein lokale Umgebung beschreiben. Aus bereits bekannten und positiv überprüften Kreuzungspunkten sind die Orientierungen der erwarteten Kanten bekannt, die sich im neuen Kreuzungspunkt schneiden müssten. Zu jeder der zwei erwarteten Kanten wird nun ein Normalvektor berechnet (Vektor mit Länge 1, der senkrecht zur Richtung der Kante verläuft). Mit bekannter Orientierung der Kanten und Position des vermeintlichen Kreuzungspunkts sollte sich die lokale Umgebung der Intensitätsfunktion approximativ als Linearkombinationen folgender zwei Basisfunktionen B1(p, c) = 1 B2(p, c) = t((p – c)Tn1)t((p – c)Tn2)darstellen lassen, wobei die Funktion t durch

Figure 00160001
gegeben ist. Diese Funktion beschreibt eine geglättete Kante im Eindimensionalen.To avoid the determination of only supposed crossing points, after determining the subpixel-accurate position of an X-corner, two further parameters are calculated for each crossing-point candidate describing its local environment. From already known and positively checked intersection points, the orientations of the expected edges are known, which would have to intersect at the new intersection point. For each of the two expected edges, a normal vector is now calculated (vector of length 1, which is perpendicular to the direction of the edge). With known orientation of the edges and position of the supposed crossing point, the local environment of the intensity function should approximate as linear combinations of the following two basis functions B 1 (p, c) = 1 B 2 (p, c) = t ((p - c) T n 1 ) t ((p - c) T n 2 ) let the function be represented by t
Figure 00160001
given is. This function describes a smoothed edge in one-dimensional.

Der Vektor p steht für die Koordinate des Pixels, dessen Intensität berechnet werden soll und c für die Position des Kreuzungspunktes. n1 und n2 sind die Normalvektoren der erwarteten Kanten. Es werden nun die Gewichte der beiden Basisfunktionen o (Versatz, mittlere Helligkeit) und a (Amplitude) ermittelt, so dass die gewichtete Summe der Fehlerquadrate

Figure 00160002
minimiert ist. W gibt hier eine Gewichtsfunktion an, die jedem Pixel in der lokalen Umgebung von c ein positives Gewicht zuordnet. I(p) gibt die tatsächliche Intensität des Pixels an der Stelle p an. Ob es sich bei dem vermeintlichen neuen Kreuzungspunkt c um einen echten Nachbarn eines schon bekannten Kreuzungspunkts t handelt, lässt sich nun über einen Vergleich der Parameter o und a beider Kreuzungspunkte überprüfen. Zu erwarten ist, dass oc ≈ ot oc ≈ –at gilt. Der Vorzeichenwechsel des Parameters a von einem Kreuzungspunkt zu einem seiner vier Nachbarn liegt in der Natur des Schachbrettmusters. Gibt es zu starke Abweichungen dieser Bedingungen, so deutet das darauf hin, dass es sich um einen falsch erkannten Kreuzungspunkt handelt. Es wäre auch möglich, zusätzlich den Betrag des mittleren Fehlerquadrats als Kriterium zu betrachten. Die aktuelle Implementierung benutzt nur die Abfrage
Figure 00160003
um zu entscheiden, ob der aktuelle Punkt als Kreuzungspunkt akzeptiert wird.The vector p stands for the coordinate of the pixel whose intensity is to be calculated and c for the position of the crossing point. n 1 and n 2 are the normal vectors of the expected edges. The weights of the two basis functions o (offset, mean brightness) and a (amplitude) are now determined, so that the weighted sum of the error squares
Figure 00160002
is minimized. W indicates a weight function that assigns a positive weight to each pixel in the local neighborhood of c. I (p) indicates the actual intensity of the pixel at location p. Whether the supposed new crossing point c is a true neighbor of an already known crossing point t can now be checked by comparing the parameters o and a of both crossing points. It is expected that O c ≈ o t O c ≈ -a t applies. The change of sign of the parameter a from a crossing point to one of its four neighbors lies in the nature of the checkerboard pattern. If there are excessive deviations of these conditions, this indicates that this is an incorrectly recognized crossing point. It would also be possible to additionally consider the amount of the mean square error as a criterion. The current implementation uses only the query
Figure 00160003
to decide if the current point is accepted as a crossing point.

Jetzt schließt sich das Auslesen und Dekodieren des Punktemusters an. In 6 ist der mittlere Ausschnitt des Kalibrierungsmusters zu sehen. Um jeden Kreuzungspunkt mit Koordinate (8a, 6b) (a, b ∊ {–22, –21, –20,..., 22}) sind schwarze und weiße Punkte in einem rechteckigen Bereich (6 × 4 Felder mit dem Kreuzungspunkt in der Mitte) zu sehen. Die schwarzen Punkte dienen ausschließlich der Orientierung (die die schwarzen Punkte in 6 umgebenden Ringe dienen nur der Hervorhebung der Punkte und sind kein Bestandteil des tatsächlichen Schachbrettmusters). Es sind immer drei schwarze Punkte, und ihre Anordnung relativ zu dem mittleren Kreuzungspunkt ist immer die gleiche. Anhand dieser Punkte kann festgestellt werden, in welche Richtung die X- beziehungsweise Y-Achse hinzeigt. Diese Information ist auch nötig, um die absolute Koordinate des mittleren Kreuzungspunktes eindeutig bestimmen zu können, welche über die weißen Punkte kodiert ist. Im diesem rechteckigen Bereich aus 6 × 4 Feldern gibt es 12 schwarze Felder, deren Zentren nun schwarz (Bit mit Wert 0) oder weiß (Bit mit Wert 1) seien können. Durch bekannte Position der schwarzen Punkte ist die Nummerierung der 12 schwarzen Felder mit möglichen weißen Punkten eindeutig. Das Bit mit der Nummer 11 ist dabei immer so gesetzt, dass die Anzahl der weißen Punkte ungerade ist und dient zur Erkennung von Fehlern bei der Bestimmung der Bits. Die Bits bi mit 0 ≤ i ≤ 10 sind durch

Figure 00170001
bestimmt. Der Menge der zulässigen Werte von a und b wurde so gewählt, dass die Zahl c nie negativ wird, sich durch 11 Bits darstellen lässt und die Werte von a und b wieder eindeutig aus c bestimmt werden können.Now the reading and decoding of the dot pattern follows. In 6 the middle section of the calibration pattern can be seen. Around each crossing point with coordinates (8a, 6b) (a, b ε {-22, -21, -20, ..., 22}) are black and white points in a rectangular area (6 × 4 fields with the crossing point in the middle). The black dots are for orientation only (the black dots in 6 surrounding rings serve only to emphasize the points and are not part of the actual checkerboard pattern). There are always three black dots, and their arrangement relative to the middle crossing point is always the same. These points can be used to determine in which direction the X or Y axis points. This information is also necessary in order to be able to unambiguously determine the absolute coordinate of the middle crossing point, which is encoded by the white dots. In this rectangular area of 6 × 4 fields, there are 12 black fields whose centers are now black (bit with value 0) or white (bit with value 1) can be. By known position of the black dots, the numbering of the 12 black boxes with possible white dots is unique. The bit with the number 11 is always set so that the number of white dots is odd and is used to detect errors in the determination of the bits. The bits b i with 0 ≤ i ≤ 10 are by
Figure 00170001
certainly. The set of allowable values of a and b was chosen so that the number c never becomes negative, can be represented by 11 bits, and the values of a and b can be uniquely determined from c.

Bei dem durch 6 gegebenen Beispiel ist c = 22 + 24 + 25 + 26 + 27 + 28 + 29 = 1012und es folgt für a und b:

Figure 00180001
In the by 6 given example is c = 2 2 + 2 4 + 2 5 + 2 6 + 2 7 + 2 8th + 2 9 = 1012 and it follows for a and b:
Figure 00180001

Der mittlere Kreuzungspunkt besitzt also die Koordinate (0, 0) und ist damit Ursprung des Koordinatensystems. Üblicherweise wird diesem Kreuzungspunkt eine feste Raumkoordinate im Weltkoordinatensystem zugeordnet, indem er beispielsweise an einen bestimmten Punkt eines Messaufbaus gehalten wird. Ebenso kann eine feste Orientierung im Weltkoordinatensystem vorgegeben werden, indem das Schachbrettmuster einmal definiert gegenüber einer bestimmten Ebene eines solchen Messaufbaus ausgerichtet wird.Of the middle crossing point thus has the coordinate (0, 0) and is thus origin of the coordinate system. Usually, this crossroads a fixed spatial coordinate in the world coordinate system assigned by he held for example at a certain point of a measurement setup becomes. Likewise, a fixed orientation in the world coordinate system be specified by the checkerboard pattern once defined across from a certain level of such a measurement setup is aligned.

Wurde ein Gitter aus Kreuzungspunkten ermittelt, lassen sich auch die Pixelkoordinaten von Zentren der Felder bestimmen. Anhand des Vorzeichens des im vorherigen Abschnitt beschriebenen und bisher ermittelten Gewichts "a" jedes Kreuzungspunktes ist auch bekannt, welche anliegenden Felder schwarz und welche weiß sein müssen. Ein weißer Punkt in einem schwarzen Feld kann ebenso wie ein schwarzer Punkt in einem weißen Feld erkannt werden, wenn die Graustufe des Feldmittelpunktes ermittelt wird und mit einem Schwellwert verglichen wird. In der aktuellen Implementierung ist dieser Schwellwert das Mittel aus den Gewichten "o" der umliegenden Kreuzungspunkten, die den mittleren Grauwert des Musters an der Stelle angeben.Has been a lattice of crossing points is determined, the Determine pixel coordinates of centers of fields. Based on the sign of the one described in the previous section and previously determined Weight "a" of each crossing point It is also known which adjacent fields are black and which must be white. One white Point in a black box can be just like a black dot in a white Field detected when the gray level of the field center determined is compared with a threshold. In the current Implementation, this threshold is the mean of the weights "o" of the surrounding crossing points, the specify the mean gray value of the pattern at the location.

Es folgt eine Suche nach schwarzen Punkten auf weißen Feldern bei der Mustererkennung. Sind drei schwarze Punkte gefunden worden, die zu einer Kodierung gehören, ist die tatsächliche Orientierung der Kalibrierungsebene bekannt, da anhand der schwarzen Punkte beliebige Rotationen und sogar eine Spiegelung erkannt werden kann. Eine Spiegelung entsteht entweder, wenn die Kamera das Muster über einen Spiegel beobachtet oder das Muster nur von hinten gesehen wird. Damit steht auch die Nummerierung der schwarzen Felder mit möglichen weißen Punkten eindeutig fest, so dass die binär kodierte Zahl rekonstruiert werden kann. Aus der Information über die Orientierung des Musters und der durch die Zahl beschriebenen absoluten Koordinate ist schließlich die Beziehung zwischen der bisher benutzten Adressierung der Kreuzungspunkte in der Datenstruktur und den tatsächlichen Koordinaten bekannt. Eine Punktkorrespondenzliste (Liste von Punktpaaren Weltkoordinate und normalisierte Bildkoordinate) wie sie photogrammetrischen Kalibrierungsverfahren benötigen, kann nun berechnet werden. Normalisierte Bildkoordinaten (–1/–1 für die linke obere Ecke und +1/+1 für die rechte untere Ecke des Bildes) sind unabhängig von der Auflösung des digitalen Bildes und werden für alle Bildkoordinaten verwendet, die während der Kalibrierung anfallen.It follows a search for black dots on white boxes in pattern recognition. Three black dots have been found that lead to a coding belong, is the actual one Orientation of the calibration level known because of the black Points of any rotation and even a reflection can be detected can. A reflection arises either when the camera over the pattern Mirror is observed or the pattern is only seen from behind. This is also the numbering of the black boxes with possible white Points clearly fixed so that the binary coded number reconstructed can be. From the information about the orientation of the pattern and the absolute coordinate described by the number is finally the Relationship between the previously used addressing of crossing points known in the data structure and the actual coordinates. A point correspondence list (list of pairs of points world coordinate and normalized image coordinate) as they are photogrammetric calibration method need, can now be calculated. Normalized image coordinates (-1 / -1 for the left upper corner and + 1 / + 1 for the lower right corner of the image) are independent of the resolution of the digital image and will be for everyone Image coordinates used during incurred the calibration.

Auf die direkte Verwendung von Pixelkoordinaten in den Punktkorrespondenzen wird hier verzichtet. Stattdessen werden normalisierte Bildkoordinaten benutzt, wobei die Koordinate (–1; –1) der linken oberen Ecke des Bildes und (1; 1) der rechten unteren Ecke des Bildes entspricht. Dies führt dazu, dass die Abbildungsmodellparameter unabhängig von der Bildauflösung werden. Je nach verwendetem Verfahren zur Auswertung der Punktkorrespondenzlisten kann die Benutzung von normalisierten Bildkoordinaten außerdem zu einer Verbesserung der numerischen Kondition zu lösender Gleichungssysteme führen.On the direct use of pixel coordinates in the point correspondences is omitted here. Instead, normalized image coordinates used, where the coordinate (-1, -1) of the left upper corner of the image and (1; 1) the lower right corner corresponds to the picture. this leads to to make the imaging model parameters independent of the image resolution. Depending on the method used to evaluate the point correspondence lists In addition, the use of normalized image coordinates can become one Improvement of the numerical condition lead to solved equation systems.

Ist die Information, welche Bildkoordinaten zu bekannten Raumkoordinaten gehören, gegeben, kann diese dazu benutzt werden, die Abbildungsparameter der jeweiligen Kamera anhand eines Modells der Kamera zu bestimmen.is the information, which image coordinates to known spatial coordinates belong, given, this can be used to the imaging parameters of each camera based on a model of the camera.

Das hier verwendete Kameramodell ist eine Vereinfachung des Modells, wie es von Heikkila und Silven beschrieben wird. Auf die Modellierung einer tangentialen Linsenverzeichnung wurde jedoch aus zwei Gründen verzichtet. Ein kompliziertes Linsenmodell erschwert die Invertierung der Abbildungsvorschrift (Backprojection) und stellt mit hoher Wahrscheinlichkeit keinen Genauigkeitsgewinn bei der Bestimmung der Parameter dar. Vielmehr ist es weit überwiegend wahrscheinlich, dass ein Großteil der Verzerrung durch einen radialen Teil dominiert wird. Die Modellierung von anderen Verzerrungseffekten würde weiterhin zu numerischen Instabilitäten führen und wäre im Vergleich zu anderen Fehlerquellen wie fehlerhaft gemessenen Pixelkoordinaten sowie Imperfektionen des Kalibrierungsmusters unbedeutend.The camera model used here is a simplification of the model, as described by Heikkila and Silven. On the modeling However, a tangential lens distortion was omitted for two reasons. A complicated lens model makes it difficult to invert the mapping rule (Backprojection) and is highly likely no Accuracy gain in the determination of the parameters dar. Rather it is far predominant probably that much the distortion is dominated by a radial part. The modeling from other distortion effects would continue to lead to numerical instabilities and would be in Comparison to other sources of error such as erroneously measured pixel coordinates and imperfections of the calibration pattern insignificant.

Im folgenden werden die einzelnen Schritte erklärt, wie das verwendete Kameramodell anhand seiner Parameter einen Punkt (xw, yw, zw)T (Weltkoordinaten) in Pixelkoordinaten (u, v)T transformiert. Zunächst werden die Weltkoordinaten anhand einer 3 × 3-Rotationsmatrix R und eines Translationsvektors t in Kamerakoordinaten umgerechnet:

Figure 00190001
In the following, the individual steps are explained how the camera model used transforms a point (x w , y w , z w ) T (world coordinates) into pixel coordinates (u, v) T on the basis of its parameters. First, the world coordinates are converted to camera coordinates using a 3 × 3 rotation matrix R and a translation vector t:
Figure 00190001

Die projektive Abbildung auf eine zweidimensionale Ebene parallel zur X/Y-Ebene mit "Brennweite" 1 liefert: s = xc/zc) w = yc/zc The projective image on a two-dimensional plane parallel to the X / Y plane with "focal length" 1 provides: s = x c / z c ) w = y c / z c

Die konstante Brennweite ist in keinerlei Hinsicht eine Einschränkung. Eine variable Brennweite skaliert nur die Koordinaten (s, w). Die Skalierung kann und sollte zusammen mit einer möglichen Scherung und Verschiebung nach der Berechnung der Radialverzerrung erledigt werden, weil all diese Schritte die Lage und Orientierung des Pixel-Abtastgitters modellieren. Als nächstes wird der Effekt der radialen Linsenverzerrung berechnet. An dieser Stelle lohnt es sich, in Betracht zu ziehen, was nach einer Kalibrierung mit den ermittelten Parametern passieren soll. Möchte man eher bekannte Punkte im Weltkoordinatensystem auf die Bildebene abbilden oder eher zu Punkten der Bildebene die Sichtgerade berechnen?The constant focal length is in no way a limitation. A variable focal length only scales the coordinates (s, w). The scaling can and should be combined with a possible shear and displacement be done after the calculation of the radial distortion, because all these steps are the location and orientation of the pixel sample grid model. Next the effect of radial lens distortion is calculated. At this It pays to consider what happens after a calibration should happen with the parameters determined. If you want more familiar points in the world coordinate system to the image plane or rather to Points of the image plane calculate the visual line?

Ersteres wird erleichtert, wenn die Linsenverzerrung auf folgende Art und Weise modelliert wird:

Figure 00200001
The former is facilitated if the lens distortion is modeled in the following way:
Figure 00200001

Die zweite Zeile erlaubt durch einfaches Einsetzten von s und w (denunverzerrten Koordinaten) das Berechnen von sd und wd anhand der Parameter κ1 und κ2. Leider lässt sich diese Operation nicht einfach invertieren, weil der Skalierungsfaktor vom Quadrat der Länge des unbekannten Vektors abhängt. Als Näherung lässt sich jedoch folgendes berechnen:

Figure 00200002
The second line allows sd and wd to be calculated using the parameters κ 1 and κ 2 by simply inserting s and w (denoted coordinates). Unfortunately, this operation can not be easily inverted because the scaling factor depends on the square of the length of the unknown vector. As an approximation, however, the following can be calculated:
Figure 00200002

Diese Näherung kann nun iterativ mit dem Newton-Verfahren verbessert werden. Schon nach wenigen Iterationen sollte sich ein Punkt (s, w)T ergeben, der eingesetzt in obiger Gleichung bis auf die Maschinengenauigkeit wieder den ursprünglichen Punkt (sd, wd)T liefert.This approximation can now be iteratively improved with the Newton method. After only a few iterations, a point (s, w) T should result which, used in the above equation, returns to the original point (s d , wd) T except for the machine accuracy.

Die aktuelle Implementierung des Kameramodells benutzt mit den Standardeinstellungen die obige Variante ("fast forward mapping"), da bei der nicht-linearen Optimierung zu bekannten Punkten im Raum immer die Pixelkoordinate berechnet werden muss. Dies kann jedoch umgeschaltet werden ("fast backward mapping"), wobei die Beziehung von (s, w)T und (sd, wd)T einfach umgekehrt wird. Zu beachten ist, dass diese Änderung das Modell der Linsenverzerrung betrifft. Die Parameter der Linsenverzerrung sind zwischen den 2 Modellvarianten nicht kompatibel.The current implementation of the camera model uses the above variant ("fast forward mapping") with the default settings, since in the case of non-linear optimization to known points in space, the pixel coordinate always has to be calculated. However, this may be switched ( "fast backward mapping"), the relationship of (s, f) and T (s d, w d) T is simply reversed. Note that this change affects the lens distortion model. The lens distortion parameters are not compatible between the 2 model variants.

Es fehlt nun noch die Beziehung von (sd, wd)T zu den verwendeten Koordinaten im System des Bilds (u, v)T. Diese sieht wie folgt aus:

Figure 00210001
Now the relation of (s d , w d ) T to the used coordinates in the system of the image (u, v) T is missing. This looks like this:
Figure 00210001

Mit α, β und γ kann die Skalierung sowie lineare Verzerrung (Scherung, ungleichmäßige Skalierung) modelliert werden. Der Hauptpunkt (u0, v0)T (Principal Point) ist der Punkt in der Bildebene, der dem Projektionszentrum am nächsten ist. Das ganze Modell wird also durch folgende Größen parametrisiert: die extrinsischen Parameter, die Rotationsmatrix R und den Translationsvektor t, sowie die sieben intrinsischen Parameter κ1, κ2, α, β, γ, u0 und v0.With α, β and γ the scaling and linear distortion (shear, uneven scaling) can be modeled. The principal point (u 0 , v 0 ) T (Principal Point) is the point in the image plane closest to the projection center. The entire model is thus parameterized by the following variables: the extrinsic parameters, the rotation matrix R and the translation vector t, as well as the seven intrinsic parameters κ 1 , κ 2 , α, β, γ, u 0 and v 0 .

Das verwendete Koordinatensystem ist rechtsorientiert und lehnt sich an die in der Computergrafik übliche Adressierung von Pixelkoordinaten eines digitalen Bildes an. Der positive Teil der X-Achse der Bildebene zeigt nach rechts und der positive Teil der Y-Achse nach unten. Folglich zeigt der positive Teil der Z-Achse des Kamerakoordinatensystems in die Blickrichtung der Kamera.The used coordinate system is right-oriented and leans to the usual in computer graphics Addressing pixel coordinates of a digital image. Of the positive part of the X-axis of the image plane points to the right and the positive part of the Y-axis down. Consequently, the positive shows Part of the Z axis of the camera coordinate system in the direction of view the camera.

Statt Pixelkoordinaten werden bei der Kalibrierung normalisierte Koordinaten genutzt, die unabhängig von der tatsächlichen Bildauflösung sind. Für die linke obere Ecke des Bildes wird die Koordinate (–1, –1) verwendet und für die rechte untere Ecke die Koordinate (1, 1). Daraus folgt, dass sich die tatsächliche Brennweite über

Figure 00210002
berechnen lässt. Vernachlässigt man den Einfluss von Scherung und Linsenverzerrung auf das Sichtfeld, lassen sich die Sichtfeldwinkel mit Hilfe der ermittelten Koeffizienten α und β unabhängig von der Bildauflösung bestimmen:
Figure 00220001
Instead of pixel coordinates, calibration uses normalized coordinates that are independent of the actual image resolution. For the upper left corner of the image, the coordinate (-1, -1) is used and for the lower right corner the coordinate (1, 1). It follows that the actual focal length is over
Figure 00210002
can be calculated. If the influence of shear and lens distortion on the field of view is neglected, the field of view angles can be determined independently of the image resolution with the aid of the determined coefficients α and β:
Figure 00220001

Zhang betrachtet nur einzelne Kameras. Eine Kalibrierungsebene wird mehrfach in den Bildbereich der jeweiligen Kamera gehalten. Dabei wird die Orientierung der Ebene zwischen den Aufnahmen verändert, um genügend unabhängige Bedingungen für die intrinsischen Parameter zu erhalten. Der Lösungsansatz von Zhang bedeutet für den Anwender einen relativ geringen Aufwand, da nur eine ebene Kalibrierungsplatte angefertigt werden muss und die Ebene nahezu beliebig bewegt werden darf. Es ist keine bekannte Kippung oder Translation erforderlich. Dennoch wurde Zhangs Kameramodell durch das vorher beschriebene Modell ersetzt. Der Unterschied zu Zhangs Modell liegt darin, dass Zhang die radiale Linsenverzerrung als allerletzten Schritt nach einer möglichen Scherung oder ungleichmäßigen Skalierung betrachtet. Da eine Scherung oder ungleichmäßige Skalierung aber das Gitter der Pixelabtastpunkte beschreibt und die radiale Verzerrung das Objektiv betrifft, sollte zunächst eine Abbildung unter Berücksichtigung der radialen Verzerrung auf die Bildebene und erst später die affinlineare Abbildung stattfinden, die das Gitter der Pixelabtastpunkte beschreibt. Die initiale Schätzung der Abbildungsparameter, die Zhang durchführt, lässt sich aber problemlos auf das vorher beschriebene Kameramodell übertragen, da die Linsenverzeichnung bei diesem Schritt sowieso vernachlässigt wird.Zhang only looks at individual cameras. One calibration level will be repeated held in the image area of the respective camera. Here is the Orientation of the plane between shots changed to enough independent Conditions for to get the intrinsic parameters. The solution approach of Zhang means for the Users a relatively low cost, because only a flat calibration plate must be made and the level can be moved almost arbitrarily may. There is no known tilt or translation required. Nevertheless, Zhang's camera model was characterized by the previously described Replaced model. The difference with Zhang's model is that Zhang the radial lens distortion as the last step a possible Shearing or uneven scaling considered. Because a shear or uneven scaling but the grid describes the pixel sampling points and the radial distortion that Lens concerns, should first an illustration under consideration the radial distortion on the image plane and only later the affine-linear mapping take place, which is the grid of pixel sampling points describes. The initial estimate however, the imaging parameters that Zhang performs are easily resolved the previously described camera model transmitted because the lens distortion anyway neglected at this step.

Für die nicht-lineare Optimierung muss eine geeignete Parametrisierung der Rotationsmatrix eingesetzt werden. Statt der Parametrisierung der Rotationsmatrix durch einen "Rodrigues-Vektor", der die Rotationsachse durch seine Richtung und den Rotationswinkel durch seine Länge beschreibt, wurde der Einfachheit halber die Rotationsmatrix durch das Produkt der in der Initialisierung ermittelten Rotationsmatrix R0 und einer zweiten "korrigierenden" Rotationsmatrix Rk ausgedrückt. Die Matrix Rk wird durch drei Winkel parametrisiert, die vor Beginn der nicht-linearen Optimierung jeweils auf null gesetzt werden. Da zu erwarten ist, dass sich die im ersten Schritt ermittelte Rotationsmatrix nicht stark von der optimalen Matrix unterscheidet, werden die drei Korrekturwinkel nahe bei null sein. Obwohl dieser Ansatz die Parametrisierung einer Rotationsmatrix durch ihre Euler-Winkel nutzt und diese für ihre Singularitäten bekannt ist, wurde durch die Produktdarstellung aus Annäherung und Korrektur dafür gesorgt, dass sich die optimalen Winkel nicht in der Nähe einer Singularität aufhalten. Außerdem entfällt bei diesem Ansatz eine komplizierte Bestimmung der Startparameter für die nicht-lineare Optimierung.For nonlinear optimization, a suitable parameterization of the rotation matrix must be used. Instead of parameterizing the rotation matrix by a "Rodrigues vector" describing the axis of rotation by its direction and the angle of rotation by its length, for simplicity, the rotation matrix was replaced by the product of the rotation matrix R 0 determined in the initialization and a second "correcting" Rotation matrix R k expressed. The matrix R k is parameterized by three angles, which are set to zero before the beginning of the non-linear optimization. Since it is to be expected that the rotation matrix determined in the first step does not differ greatly from the optimal matrix, the three correction angles will be close to zero. Although this approach uses the parameterization of a rotation matrix through its Euler angles, and this is known for its singularities, the product representation of approximation and correction has ensured that the optimal angles are not near a singularity stop them. In addition, this approach eliminates a complicated determination of the starting parameters for the non-linear optimization.

Figure 00230001
Figure 00230001

Der Levenberg-Marquardt-Algorithmus wurde für die nicht-lineare Optimierung genutzt. Die für den Algorithmus erforderliche Berechnung der Jacobi-Matrix der Fehlerfunktion wird der Einfachheit wegen durch eine Vorwärtsdifferenz numerisch approximiert.Of the Levenberg-Marquardt's algorithm was used for non-linear optimization used. The for the algorithm required calculation of the Jacobi matrix of the error function is numerically approximated by a forward difference for simplicity.

Besondere Vorteile bietet das neue Verfahren bei der Kalibrierung mehrerer Kameras. Die Veränderung der Lage und Orientierung der Kalibrierungsebene ist zunächst unbekannt. Anhand der Kalibrierungsergebnisse für die extrinsischen Parameter jedes Bildes lässt sich diese "Bewegung" der Kalibrierungsebene aber berechnen (relative Drehung und Translation der Ebene). Sie ist also auch Ergebnis der Kalibrierung. Wenn mehrere Kameras zu kalibrieren sind, die sich zueinander nicht bewegen und gleichzeitig Bilder der Kalibrierungsebene aufnehmen, beobachten sie die gleiche Bewegung der Ebene nur aus einer anderen Perspektive. Damit ergeben sich weitere Bedingungen, die die extrinsischen Parameter der Kameras in Verbindung bringen. Die Kameraposition und Orientierung der Kamera X muss, im Koordinatensystem der Kamera Y ausgedrückt, über alle Zeitpunkte konstant sein, da sich die Kameras nicht zueinander bewegt haben.Special Benefits of the new method in the calibration of several Cameras. The change the position and orientation of the calibration level is initially unknown. Based on the calibration results for the extrinsic parameters every picture leaves However, this "movement" of the calibration level calculate (relative rotation and translation of the plane). she is So also result of the calibration. If several cameras to calibrate are, who do not move to each other and at the same time pictures record the calibration plane, they observe the same motion the level only from a different perspective. This results other conditions affecting the extrinsic parameters of the cameras get in touch. The camera position and orientation of the camera X has to be expressed in the coordinate system of camera Y over all Times are constant because the cameras do not move to each other to have.

Ein Projektor besitzt genauso wie eine Kamera ein Linsensystem (Projektionszentrum) und eine Bildebene und lässt sich ebenso durch ein Modell mit Parametern beschreiben, wie es bei Kameras der Fall ist. Allerdings nehmen Projektoren keine Bilder auf, vielmehr projizieren sie das Bild der Bildebene auf die Umgebung. Um einen Projektor mit dem hier vorgestellten Ansatz kalibrieren zu können, werden wieder Punktkorrespondenzlisten benötigt, die Pixelkoordinaten mit Weltkoordinaten in Verbindung bringen. Projiziert der Projektor das Schachbrettmuster auf eine Ebene, so müssen die Raumkoordinaten der Punktmerkmale auf der Ebene in Erfahrung gebracht werden. Es gibt mehrere Möglichkeiten, wie dieses Problem im Rahmen der vorliegenden Erfindung gelöst werden kann. Hat man bereits zwei kalibrierte Kameras können diese die Ebene mit dem projizierten Muster beobachten. Anhand der Pixelkoordinaten der Punktmerkmale in den von den Kameras aufgenommenen Bildern können die 3D-Koordinaten der Punkte rekonstruiert werden ("Stereo Vision").One Projector has a lens system (projection center) just like a camera and an image plane and lets also describe themselves through a model with parameters like it with cameras is the case. However, projectors take no pictures Instead, they project the image plane onto the environment. To calibrate a projector using the approach presented here to be able to Again point correspondence lists are needed, the pixel coordinates connect with world coordinates. Projects the projector the checkerboard pattern on a plane, so the space coordinates of the Point features on the level are learned. There is more options, how this problem is solved in the context of the present invention can. If you already have two calibrated cameras, they can be used with the plane observe projected patterns. Based on the pixel coordinates of Point features in the pictures taken by the cameras may be the 3D coordinates of the points are reconstructed ("Stereo Vision").

Für diese Vorgehensweise sind jedoch zwei Kameras notwendig. Bei vielen Messverfahren, die eine Kalibrierung des Projektors voraussetzen, gibt es allerdings nur eine Kamera. Es ist also wünschenswert, einen Projektor mit nur einer Kamera kalibrieren zu können. Wird die Projektion des Musters mit nur einer Kamera beobachtet, können die Raumkoordinaten der Kreuzungspunkte nur berechnet werden, wenn bekannt ist, wie die Ebene im Raum liegt, auf der das Muster projiziert wird. Dies kann durch folgende Maßnahmen erreicht werden:

  • 1. Große helle Ebene im Bereich des Interesses fixieren
  • 2. Das Schachbrettmuster mit dem Projektor auf die Ebene projizieren und mit der Kamera aufnehmen
  • 3. Schachbrettobjekt auf die helle Ebene legen beziehungsweise hängen, so dass das Muster parallel zur Ebene liegt und die "Parallelverschiebung" bekannt ist
  • 4. Bild des Schachbrettmusters aufnehmen
However, two cameras are necessary for this procedure. However, there are only one camera for many measurement procedures that require the projector to be calibrated. It is therefore desirable to be able to calibrate a projector with just one camera. If the projection of the pattern is observed with only one camera, the spatial coordinates of the crossing points can only be calculated if it is known how the plane lies in the space on which the pattern is projected. This can be achieved by the following measures:
  • 1. Fix big bright plane in the area of interest
  • 2. Project the checkerboard pattern onto the plane with the projector and shoot with the camera
  • 3. Lay or hang the chessboard object on the light level so that the pattern is parallel to the plane and the "parallel shift" is known
  • 4. Take a picture of the checkerboard pattern

Wenn dies mehrfach mit unterschiedlichen Orientierungen der Ebenen durchgeführt wird, lässt sich die Kamera anhand der Bilder der Kalibrierungsebene kalibrieren. Für die anderen Bilder lassen sich zumindest Punktkorrespondenzlisten ermitteln, die Projektor-Pixelkoordinaten mit Kamera-Pixelkoordinaten in Verbindung bringen. Anhand der Parameter der kalibrierten Kamera, der bekannten Z-Verschiebung und dieser Zuordnungen können die Raumkoordinaten der projizierten Merkmale ermittelt werden, so dass die Kalibrierung des Projektors durchgeführbar ist.If this is done several times with different orientations of the planes, let yourself Calibrate the camera based on the images of the calibration plane. For the other pictures can at least be used to identify point correspondence lists the projector pixel coordinates communicate with camera pixel coordinates bring. Based on the parameters of the calibrated camera, the known Z-displacement and these assignments can be the space coordinates of the projected features are determined so that the calibration of the Projector feasible is.

Claims (13)

Verfahren zur Kalibrierung einer Kamera, wobei ein bekanntes ebenes Schachbrettmuster mit der Kamera in mehreren Relativstellungen zu der Kamera abgebildet wird und wobei in den Abbildern des Schachbrettmusters Lagen von Kreuzungspunkten von Kanten anhand von Lagen von Sattelpunkten der Helligkeitsintensitätsverteilung in den Abbildern des Schachbrettmusters verfolgt werden, dadurch gekennzeichnet, dass mindestens einer der Kreuzungspunkte in dem Schachbrettmuster mit einer durch Bildverarbeitung der Abbilder des Schachbrettmusters lesbaren Positionsangabe markiert ist, die eine Kodierung der Orientierung und der Lage des Kreuzungspunkts innerhalb des Schachbrettmusters umfasst.A method for calibrating a camera with a known planar checkerboard pattern with the camera in a plurality of relative positions is mapped to the camera, and wherein layers of crossing points of edges based on layers of saddle points of the luminous intensity distribution can be tracked in the images of the checkerboard pattern in the images of the checkerboard pattern, characterized in that at least one of the points of intersection in the checkerboard pattern is marked with a positional indication readable by image processing of the images of the checkerboard pattern, comprising a coding of the orientation and the position of the intersection point within the checkerboard pattern. Verfahren zur Kalibrierung eines Projektors, wobei mit dem Projektor ein bekanntes Schachbrettmuster auf einen ebenen Schirm projiziert wird, wobei mit mindestens einer gegenüber dem Projektor fest ausgerichteten kalibrierten Kamera das projizierte Schachbrettmuster in mehreren Relativstellungen des Schirms zu dem Projektor und der Kamera abgebildet wird und wobei in den Abbildern des Schachbrettmusters Lagen von Kreuzungspunkten von Kanten anhand von Lagen von Sattelpunkten der Helligkeitsintensitätsverteilung in den Abbildern des Schachbrettmusters verfolgt werden, dadurch gekennzeichnet, dass mindestens einer der Kreuzungspunkte in dem Schachbrettmuster mit einer durch Bildverarbeitung der Abbilder des Schachbrettmusters lesbaren Positionsangabe markiert ist, die eine Kodierung der Orientierung und der Lage des Kreuzungspunkts innerhalb des Schachbrettmusters umfasst.Method for calibrating a projector, wherein with the projector a known checkerboard pattern on a plane Screen is projected, with at least one opposite to the Projector firmly aligned calibrated camera projected Checkerboard pattern in several relative positions of the screen to the Projector and the camera is imaged and where in the images of the checkerboard pattern is based on locations of crossing points of edges Layers of saddle points of the brightness intensity distribution be traced in the images of the checkerboard pattern, thereby characterized in that at least one of the crossing points in the Checkerboard pattern with one by image processing of the images of the checkerboard pattern is readable position indication, the a coding of the orientation and the position of the crossing point within the checkerboard pattern. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass die Positionsangabe einen Teil aufweist, der den jeweiligen Kreuzungspunkt und seine Orientierung innerhalb des Schachbrettmusters bezeichnet, und einen Teil, der die Lage des Kreuzungspunkts innerhalb des Schachbrettmusters bezeichnet.Method according to one of claims 1 to 3, characterized that the position indication has a part corresponding to the respective Cross point and its orientation within the checkerboard pattern indicates and a part indicating the location of the crossing point within the checkerboard pattern designated. Verfahren nach einem der Ansprüche 1 bis 3, dadurch gekennzeichnet, dass die Positionsangabe durch helle Punkte in dunklen Schachbrettfeldern und/oder durch dunkle Punkte in hellen Schachbrettfeldern binär kodiert ist.Method according to one of claims 1 to 3, characterized that the position indication by bright points in dark checkerboard fields and / or binary-coded by dark dots in bright checkerboard fields is. Verfahren nach Anspruch 4, dadurch gekennzeichnet, dass die Lage des Kreuzungspunkts innerhalb des Schachbrettmusters in einer binären Zahl kodiert ist.Method according to claim 4, characterized in that that the location of the crossing point within the checkerboard pattern in a binary Number is encoded. Verfahren einem der Ansprüche 1 bis 5, dadurch gekennzeichnet, dass ein zweidimensionales Raster von Kreuzungspunkten in dem Schachbrettmuster mit den Positionsangaben versehen ist.Method according to one of claims 1 to 5, characterized that a two-dimensional grid of crossing points in the checkerboard pattern is provided with the position information. Verfahren nach einem der Ansprüche 1 bis 6, dadurch gekennzeichnet, dass das Schachbrettmuster ein regelmäßiges Schachbrettmuster ist.Method according to one of claims 1 to 6, characterized that the checkerboard pattern is a regular checkerboard pattern. Verfahren nach einem der Ansprüche 1 bis 7, dadurch gekennzeichnet, dass zunächst Groblagen der Kreuzungspunkte der Kanten ermittelt werden, die als Aufpunkte für eine subpixelgenaue Bestimmung der Lage der zugehörigen Sattelpunkte der Helligkeitsintensitätsverteilung verwendet werden.Method according to one of claims 1 to 7, characterized that first Groblagen the intersections of the edges are determined as Aufpunkte for a subpixel accurate determination of the location of the associated saddle points the brightness intensity distribution be used. Verfahren nach Anspruch 8, dadurch gekennzeichnet, dass für die Ermittlung der Groblagen der Kreuzungspunkte der Kanten, die Abbilder des Schachbrettmusters mit einem Kantenoperator bearbeitet werden und anschließend in der Mitte des jeweiligen Abbilds eine Hough-Transformation durchgeführt wird.Method according to claim 8, characterized in that that for the determination of the coarse layers of the crossing points of the edges, the Images of the checkerboard pattern edited with an edge operator and then in the middle of the respective image, a Hough transformation is performed. Verfahren nach einem der Ansprüche 1 bis 10, dadurch gekennzeichnet, dass Punktkorrespondenzlisten erstellt werden, indem den Lagen der Kreuzungspunkte in den Abbildern des Schachbrettmusters Raumkoordinaten zugeordnet werden.Method according to one of claims 1 to 10, characterized that point correspondence lists are created by the layers of the Crossing points in the images of the checkerboard pattern Spatial coordinates be assigned. Verfahren nach Anspruch 10, dadurch gekennzeichnet, dass aus den Punktkorrespondenzlisten die Abbildungsparameter und die Position der Kamera oder die Projektionsparameter und die Position des Projektors basierend auf dem Verfahren von Heikkila und Silven, aber ohne Berücksichtigung der tangentialen Verzerrung bestimmt werden.Method according to claim 10, characterized in that from the point correspondence lists the mapping parameters and the position of the camera or the projection parameters and the position of the projector based on the method of Heikkila and Silven, but without consideration the tangential distortion are determined. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass mindestens zwei fest zueinander ausgerichtete Kameras gleichzeitig kalibriert werden, wobei die Orientierungsänderungen des Schachbrettmusters, die aus seinen Abbildern ermittelt werden, gegeneinander abgeglichen werden.Method according to claim 1, characterized in that that at least two cameras aligned with each other at the same time calibrated, with the orientation changes of the checkerboard pattern, the be determined from his images, compared against each other become. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass das auf den Schirm projizierte Schachbrettmuster mit mindestens zwei fest zueinander ausgerichteten Kameras abgebildet wird, wobei die Orientierungsänderungen des Schirms, die aus den Abbildern des Schachbrettmusters ermittelt werden, gegeneinander abgeglichen werden.Method according to claim 2, characterized in that that the chessboard pattern projected on the screen with at least two fixedly aligned cameras is shown, wherein the orientation changes of the screen, which detects from the images of the checkerboard pattern be compared against each other.
DE102006055758A 2006-11-25 2006-11-25 Method for calibrating cameras and projectors Expired - Fee Related DE102006055758B4 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102006055758A DE102006055758B4 (en) 2006-11-25 2006-11-25 Method for calibrating cameras and projectors

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102006055758A DE102006055758B4 (en) 2006-11-25 2006-11-25 Method for calibrating cameras and projectors

Publications (2)

Publication Number Publication Date
DE102006055758A1 true DE102006055758A1 (en) 2008-05-29
DE102006055758B4 DE102006055758B4 (en) 2010-02-18

Family

ID=39326340

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102006055758A Expired - Fee Related DE102006055758B4 (en) 2006-11-25 2006-11-25 Method for calibrating cameras and projectors

Country Status (1)

Country Link
DE (1) DE102006055758B4 (en)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE202008016206U1 (en) 2008-12-09 2009-03-12 Csb-System Ag Calibration standard for an image processing system
US20110216184A1 (en) * 2010-03-05 2011-09-08 Sony Corporation Information processing apparatus, information processing method, program, and imaging apparatus including optical microscope
DE102011100628A1 (en) * 2011-05-05 2012-11-08 Deutsches Zentrum für Luft- und Raumfahrt e.V. Method for determining parameter of camera i.e. mobile traffic monitoring camera, involves determining camera parameter based on image coordinates of structure, absolute Cartesian coordinates of structure and programmable mapping function
CN103234454A (en) * 2013-04-23 2013-08-07 合肥米克光电技术有限公司 Self calibration method for image measuring instrument
DE102013211210A1 (en) * 2013-06-14 2014-12-18 Robert Bosch Gmbh Machine readable measuring board for chassis measurement
DE102015205174A1 (en) * 2015-03-23 2016-09-29 Conti Temic Microelectronic Gmbh Apparatus and method for simultaneously calibrating a plurality of cameras
DE102016222319A1 (en) 2016-11-14 2018-05-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3D REFERENCING
CN108074267A (en) * 2016-11-18 2018-05-25 松下知识产权经营株式会社 Breakpoint detection device and method, camera correction system and method, program and recording medium
DE102017116495A1 (en) * 2017-07-21 2019-01-24 Carl Zeiss Smt Gmbh Method for distortion correction of a first imaging optical system of a first measuring system
DE102018008539A1 (en) * 2018-11-01 2019-12-05 Baumer Optronic Gmbh Calibration device and method for camera calibration for photogrammetry
CN111062989A (en) * 2019-12-12 2020-04-24 深圳慧智星晨科技有限公司 High-precision two-dimensional camera and robot hand-eye calibration method and system
CN112184825A (en) * 2019-07-05 2021-01-05 杭州海康机器人技术有限公司 Calibration plate and calibration method
CN112465916A (en) * 2020-11-27 2021-03-09 浙江光珀智能科技有限公司 RGBD binocular calibration method and system based on full-view-field plane calibration plate
CN113129388A (en) * 2020-12-23 2021-07-16 合肥工业大学 Coding stereo target for quickly calibrating internal and external parameters of camera and coding method thereof

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102015012344A1 (en) 2015-09-22 2016-03-31 Daimler Ag Method for calibrating a camera
CN106296657A (en) * 2016-07-28 2017-01-04 三峡大学 A kind of method video camera being carried out Fast Calibration based on geometrical principle

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6527395B1 (en) * 2001-12-10 2003-03-04 Mitsubishi Electric Research Laboratories, Inc. Method for calibrating a projector with a camera
WO2004019799A2 (en) * 2002-08-29 2004-03-11 Computerized Medical Systems, Inc. Methods and systems for localizing of a medical imaging probe and of a biopsy needle

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010066236A1 (en) 2008-12-09 2010-06-17 Csb-System Ag Calibration standard for an image processing system
DE102009050604A1 (en) 2008-12-09 2010-06-17 Csb-System Ag Calibration standard for an image processing system
DE202008016206U1 (en) 2008-12-09 2009-03-12 Csb-System Ag Calibration standard for an image processing system
US20110216184A1 (en) * 2010-03-05 2011-09-08 Sony Corporation Information processing apparatus, information processing method, program, and imaging apparatus including optical microscope
US9124775B2 (en) * 2010-03-05 2015-09-01 Sony Corporation Information processing apparatus, information processing method, program, and imaging apparatus including optical microscope
DE102011100628A1 (en) * 2011-05-05 2012-11-08 Deutsches Zentrum für Luft- und Raumfahrt e.V. Method for determining parameter of camera i.e. mobile traffic monitoring camera, involves determining camera parameter based on image coordinates of structure, absolute Cartesian coordinates of structure and programmable mapping function
DE102011100628B4 (en) * 2011-05-05 2013-04-25 Deutsches Zentrum für Luft- und Raumfahrt e.V. Method and device for determining at least one camera parameter
CN103234454B (en) * 2013-04-23 2016-03-30 合肥米克光电技术有限公司 A kind of self-calibrating method of image measurer
CN103234454A (en) * 2013-04-23 2013-08-07 合肥米克光电技术有限公司 Self calibration method for image measuring instrument
DE102013211210B4 (en) * 2013-06-14 2021-07-15 Beissbarth Gmbh Machine-readable measuring board for wheel alignment
DE102013211210A1 (en) * 2013-06-14 2014-12-18 Robert Bosch Gmbh Machine readable measuring board for chassis measurement
DE102015205174A1 (en) * 2015-03-23 2016-09-29 Conti Temic Microelectronic Gmbh Apparatus and method for simultaneously calibrating a plurality of cameras
DE102016222319A1 (en) 2016-11-14 2018-05-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3D REFERENCING
WO2018087392A1 (en) 2016-11-14 2018-05-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3d referencing
CN108074267A (en) * 2016-11-18 2018-05-25 松下知识产权经营株式会社 Breakpoint detection device and method, camera correction system and method, program and recording medium
CN108074267B (en) * 2016-11-18 2023-08-11 松下知识产权经营株式会社 Intersection point detection device and method, camera correction system and method, and recording medium
DE102017116495A1 (en) * 2017-07-21 2019-01-24 Carl Zeiss Smt Gmbh Method for distortion correction of a first imaging optical system of a first measuring system
DE102017116495B4 (en) * 2017-07-21 2019-10-10 Carl Zeiss Smt Gmbh Method for distortion correction of a first imaging optical system of a first measuring system
US10599936B2 (en) 2017-07-21 2020-03-24 Carl Zeiss Smt Gmbh Method for correcting the distortion of a first imaging optical unit of a first measurement system
DE102018008539A1 (en) * 2018-11-01 2019-12-05 Baumer Optronic Gmbh Calibration device and method for camera calibration for photogrammetry
DE102018008539B9 (en) 2018-11-01 2023-03-16 Baumer Optronic Gmbh Calibration device and method for camera calibration for photogrammetry
DE102018008539B4 (en) 2018-11-01 2023-01-26 Baumer Optronic Gmbh Calibration device and method for camera calibration for photogrammetry
CN112184825B (en) * 2019-07-05 2024-02-02 杭州海康机器人股份有限公司 Calibration plate and calibration method
CN112184825A (en) * 2019-07-05 2021-01-05 杭州海康机器人技术有限公司 Calibration plate and calibration method
CN111062989A (en) * 2019-12-12 2020-04-24 深圳慧智星晨科技有限公司 High-precision two-dimensional camera and robot hand-eye calibration method and system
CN111062989B (en) * 2019-12-12 2023-06-06 深圳慧智星晨科技有限公司 Method and system for calibrating high-precision two-dimensional camera and robot hand and eye
CN112465916A (en) * 2020-11-27 2021-03-09 浙江光珀智能科技有限公司 RGBD binocular calibration method and system based on full-view-field plane calibration plate
CN113129388A (en) * 2020-12-23 2021-07-16 合肥工业大学 Coding stereo target for quickly calibrating internal and external parameters of camera and coding method thereof

Also Published As

Publication number Publication date
DE102006055758B4 (en) 2010-02-18

Similar Documents

Publication Publication Date Title
DE102006055758B4 (en) Method for calibrating cameras and projectors
DE102015011914B4 (en) Contour line measuring device and robotic system
DE69826753T2 (en) Optical profile sensor
DE102012108567B4 (en) Method of obtaining depth information using a light pattern
DE60301026T2 (en) System for the investigation of stereoscopic image features
DE112010004767T5 (en) Point cloud data processing device, point cloud data processing method and point cloud data processing program
WO2011023657A1 (en) Method and device for joining a plurality of individual digital images into a total image
CH692873A5 (en) Device and method for the geometric calibration of CCD cameras.
WO2000063681A2 (en) Image editing for preparing a texture analysis
DE19525561C2 (en) 3D measuring device
WO2016041813A1 (en) Device and method for producing a three-dimensional image of an object
DE202019105838U1 (en) Arrangement with a coordinate measuring machine or microscope
DE102016205382A1 (en) Edge detection deviation correction value calculation method, edge detection deviation correction method, and edge detection deviation correction program
DE19902401C2 (en) Method and device for determining the geometry of sheet-like material or stacks thereof
EP3931798B1 (en) Estimating the movement of an image position
EP3628995A1 (en) Calibration template and calibration method for geometric calibration of a plurality of cameras of a camera array
DE102017010683B4 (en) Method for automatic restoration of a measured state of a projection system
WO2013143882A1 (en) Method for the scanning measurement of a dental object, and intraoral scanner
EP1098268A2 (en) Method for the threedimensional optical measurement of object surfaces
DE102011082280A1 (en) Image measuring device and image measuring method
DE102010045634A1 (en) Arrangement for recording data of e.g. geometric object from space for constructing three-dimensional computer model for e.g. simulation of accidents, has scanner connected with line camera such that line camera is moved in rotational axes
WO2009018894A1 (en) Method and device for determining geometric data of a measured object
DE4143193A1 (en) SYSTEM FOR MATHEMATICALLY DETECTING THREE-DIMENSIONAL SURFACES
DE102020131808A1 (en) Device to support calibration processes in industrial cameras
DE102019220364A1 (en) Calibration device and method for calibrating a device

Legal Events

Date Code Title Description
OP8 Request for examination as to paragraph 44 patent law
8364 No opposition during term of opposition
8327 Change in the person/name/address of the patent owner

Owner name: VITRO LASER ASSETS UG ( HAFTUNGSBESCHRAENKT ),, DE

Owner name: DEUTSCHES ZENTRUM FUER LUFT- UND RAUMFAHRT E.V, DE

R081 Change of applicant/patentee

Owner name: DEUTSCHES ZENTRUM FUER LUFT- UND RAUMFAHRT E.V, DE

Free format text: FORMER OWNER: DEUTSCHES ZENTRUM FUER LUFT- UND, VITRO LASER GMBH, , DE

Effective date: 20110411

Owner name: VITRO LASER ASSETS UG ( HAFTUNGSBESCHRAENKT ), DE

Free format text: FORMER OWNER: DEUTSCHES ZENTRUM FUER LUFT- UND, VITRO LASER GMBH, , DE

Effective date: 20110411

Owner name: VITRO LASER ASSETS UG ( HAFTUNGSBESCHRAENKT ), DE

Free format text: FORMER OWNERS: DEUTSCHES ZENTRUM FUER LUFT- UND RAUMFAHRT E.V., 51147 KOELN, DE; VITRO LASER GMBH, 32423 MINDEN, DE

Effective date: 20110411

Owner name: DEUTSCHES ZENTRUM FUER LUFT- UND RAUMFAHRT E.V, DE

Free format text: FORMER OWNERS: DEUTSCHES ZENTRUM FUER LUFT- UND RAUMFAHRT E.V., 51147 KOELN, DE; VITRO LASER GMBH, 32423 MINDEN, DE

Effective date: 20110411

R119 Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee