DE102019110185A1 - Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum - Google Patents

Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum Download PDF

Info

Publication number
DE102019110185A1
DE102019110185A1 DE102019110185.9A DE102019110185A DE102019110185A1 DE 102019110185 A1 DE102019110185 A1 DE 102019110185A1 DE 102019110185 A DE102019110185 A DE 102019110185A DE 102019110185 A1 DE102019110185 A1 DE 102019110185A1
Authority
DE
Germany
Prior art keywords
data
data model
absolute coordinates
coordinates
measuring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
DE102019110185.9A
Other languages
English (en)
Inventor
Andreas Wilken
Florian Raddatz
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Deutsches Zentrum fuer Luft und Raumfahrt eV
Original Assignee
Deutsches Zentrum fuer Luft und Raumfahrt eV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Deutsches Zentrum fuer Luft und Raumfahrt eV filed Critical Deutsches Zentrum fuer Luft und Raumfahrt eV
Priority to DE102019110185.9A priority Critical patent/DE102019110185A1/de
Publication of DE102019110185A1 publication Critical patent/DE102019110185A1/de
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1127Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A61B5/1128Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6889Rooms
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20Workers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7445Display arrangements, e.g. multiple display units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/245Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Remote Sensing (AREA)
  • Molecular Biology (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Manufacturing & Machinery (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

Um ein Verfahren zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes (2, 20) enthaltenden Konstruktionsdatenmodells in einem Raum (1, 19), anzugeben, welche unter Umgehung der Nachteile des Standes des Technik ein bequemeres, weniger fehleranfälliges Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum ermöglichen, , wird vorgeschlagen, dass lokalisierte Daten, vorzugsweise eine optische Information, insbesondere Fotografie, des Objektes (2, 20) aufgenommen werden und anschließend das Objekt (2, 20) mittels eines Mustererkennungsverfahrens in der optischen Information identifiziert wird.

Description

  • Die vorliegende Erfindung betrifft ein Verfahren zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum.
  • Die vorliegende Erfindung betrifft zudem ein System zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum, mit Mitteln zur Aufnahme lokalisierter Daten, vorzugsweise einer optischen Information, insbesondere Fotografie, des Objektes.
  • Ein derartiges Verfahren und System sind bereits aus der Offenlegungsschrift US 2015/0062123A1 bekannt. Aus der US 2015/0062123A1 ist ein System der erweiterten Wirklichkeit mit der Möglichkeit des Hinzufügens von Vermerken innerhalb der Umgebung der erweiterten Wirklichkeit und ein Verfahren zum Erstellen eines mit Vermerken versehenen dreidimensionalen Grafikmodells bekannt.
  • Laut der Beschreibung in US 2015/0062123A1 , muss ein Benutzer ein mit einem Positionssensor ausgestattetes Tablet zunächst manuell an mindestens zwei Kalibrierungspunkte des in der realen Wirklichkeit existierenden Objektes heranführen, sodass ein in der virtuellen Wirklichkeit und mit dem in der realen Wirklichkeit existierendes in räumliche Übereinstimmung zu bringendes Objekt derart orientiert werden kann, dass es auf einem Gerät zur Darstellung einer erweiterten Wirklichkeit deckungsgleich mit dem über einen visuellen Sensor aufgenommenen Bild des realen Objektes dargestellt werden kann. Durch das Vergleichen und in Bezug setzen der Kalibrierungspunkte des realen Objektes und des in der virtuellen Wirklichkeit existierenden Objektes ist die räumliche Orientierung des realen Objektes zu der räumlichen Orientierung des virtuellen Objektes bekannt. In einem der Ausrichtung des in der Wirklichkeit existierenden Objektes und dem in der virtuellen Wirklichkeit existierenden Objektes folgendem Schritt wird ein zweidimensionales Kamerabild oder ein Video des realen Objektes, welches mit Vermerken versehen ist, auf Oberflächen des virtuellen Objektes projiziert, indem die 3D Koordinaten und die räumliche Orientierung des Bildes oder des Videos des visuellen Sensors im realen Raum in den dreidimensionalen virtuellen Raum unter Berücksichtigung der Position und Orientierung im realen Raum überführt werden. Hierdurch wird ein mit Vermerken versehenes dreidimensionales Grafikmodell erzeugt.
  • Nachteilig an dem oben beschriebenen Verfahren ist, dass die zuvor genannten Kalibrierungspunkte zunächst händisch aufgesucht werden müssen, um den räumlichen Bezug zwischen dem wirklichen Objekt und dem virtuellen Objekt herzustellen. Dies ist umständlich und könnte zu Fehlzuordnungen führen.
  • Vor diesem Hintergrund liegt der vorliegenden Erfindung die Aufgabe zugrunde, ein Verfahren der eingangs genannten Art gleichermaßen wie ein System der eingangs genannten Art anzugeben, welche unter Umgehung der Nachteile des Standes des Technik ein bequemeres, weniger fehleranfälliges Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum ermöglichen.
  • Erfindungsgemäß wird diese Aufgabe hinsichtlich des Verfahrens mit einem gattungsgemäßen Verfahren gelöst, bei welchem lokalisierte Daten, vorzugsweise eine optische Information, insbesondere eine Fotografie des Objektes aufgenommen und anschließend das Objekt mittels eines Mustererkennungsverfahrens in der Fotografie identifiziert wird. Auf diese Weise kann erfindungsgemäß die im Stand der Technik erforderliche händische Zuordnung entfallen. Stattdessen kann im Rahmen der Erfindung eine Bildverarbeitungsroutine anhand einer Fotografie des Objektes das Objekt identifizieren, um sodann das im Allgemeinen vorhandene Konstruktionsdatenmodell in dem Raum auszurichten. Dies eröffnet verbesserte Möglichkeiten bei der Archivierung von an dem Objekt gewonnenen Untersuchungsdaten gleichermaßen wie bei der Steuerung von Bearbeitungsmaschinen. Typischerweise wird im Rahmen der Erfindung keine einzelne Fotografie des zu inspizierenden Bauteils angefertigt und zur Bauteilidentifikation genutzt. Vielmehr werden RGB-Kameras für eine fortwährende live-Aufnahme genutzt, um ein markerloses Tracking zu realisieren. Das Bauteil wird demnach permanent von den Kameras getrackt. In einem ersten Schritt werden vom Bauteil Features oder Kanten extrahiert, um mit diesen Informationen in einer Datenbank automatisiert nach dem richtigen Bauteil zu suchen. Dazu können Fotos, aber auch CAD-Daten des Bauteils hinzugezogen werden. Ist das richtige Bauteil identifiziert, kann auf das Bauteilkoordinatensystem zugegriffen werden. Die Registrierung kann mit 3D-Daten statt wie oben beschrieben mit 2D-Daten einer Tablet-Kamera erfolgen. Diese 3D-Daten können im Rahmen der Erfindung zum Beispiel mit Hilfe vom mehreren Kameras ermittelt werden.
  • In vorteilhafter Ausgestaltung des erfindungsgemäßen Verfahrens werden Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt bezogen auf den Raum messtechnisch bestimmt, wobei der Kalibrationspunkt mittels eines Bildverarbeitungsverfahrens dem zu dem identifizierten Objekt gehörenden Konstruktionsdatenmodell zugeordnet wird.
  • Besonders günstig ist es, wenn im Rahmen der Erfindung zur messtechnischen Bestimmung der Absolutkoordinaten mindestens ein Referenzpunkte aufweisendes Referenzobjekt in dem Raum platziert wird, wobei vorzugsweise Referenzabsolutkoordinaten des Referenzobjekts in dem Raum ermittelt werden. Vorzugsweise ist das Referenzobjekt als Dreieck mit Reflexionsmarkern an den Ecken ausgestaltet.
  • Um eine Kalibration zu erreichen, kann in vorteilhafter Ausgestaltung der Erfindung ein mit an bekannten Positionen angeordneten Markern versehener, insbesondere stabartiger, Gegenstand (9), vorzugsweise in allen Raumrichtungen, translatorisch bewegt und, vorzugsweise um alle Raumachsen, rotiert wird, wobei lokalisierte Daten, des Gegenstands (9) aufgenommen werden.
  • In einer vorteilhaften Ausgestaltung der Erfindung umfasst das Mustererkennungsverfahren einen Schritt des Vergleichens der lokalisierten Daten, vorzugsweise der optischen Information, insbesondere Fotografie, mit Referenzinformationen, vorzugsweise Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte. Gemäß diesem Aspekt der Erfindung werden Referenzfotografien von Objekten, beispielsweise von einzelnen Bauteilen oder Baugruppen einer komplexen Vorrichtung, die zu untersuchen bzw. zu bearbeiten sind, aufgenommen. Diese dienen dann durch Vergleich mit der Fotografie zur Identifizierung des vorliegenden Objektes, welches erfindungsgemäß den Absolutkoordinaten zugeordnet wird. Die Referenzinformationen sind im Rahmen der Erfindung in einer Datenbank hinterlegt. Sie enthalten alle Informationen, die zum Erkennen und Tracken des betrachteten Bauteils nötig sind. Dies kann im Rahmen der Erfindung featurebasiert, kantenbasiert oder durch eine ähnliche geeignete Methode erfolgen. Als Basis für die Referenzinformationen können Fotografien oder CAD-Modelle des Bauteils dienen, aus denen die erforderlichen Merkmale extrahiert werden. Gleichermaßen kann im Rahmen der Erfindung ein Vergleich von gemessenen 3D-Daten mit Referenz-3D-Daten vorgenommen werden.
  • In einer vorteilhaften Ausgestaltung der Erfindung werden die lokalisierten Daten, insbesondere optischen Referenzinformationen, vorzugsweise Referenzfotografien, aufgenommen und in einer Datenbank abrufbar gespeichert. Gemäß diesem Aspekt der Erfindung ist eine Datenbank vorhanden oder wird in einem vorbereitenden Verfahrensschritt erzeugt, welche Referenzfotografien möglicher zu bearbeitender und/oder zu untersuchender Objekte enthält. Diese Datenbank, die auch weitere Merkmale enthalten kann, beispielsweise die Daten der Konstruktionsdatenmodelle, wie zum Beispiel CAD Daten, mit all ihren Detailinformationen, kann in allen weiteren Verfahrensschritten inklusive ihrer Inhalte abrufbar sein und kann beispielsweise zur weitergehenden Informationsverarbeitung, Maßnahmenableitung, und Darstellung in einem Gerät der erweiterten Realität genutzt werden. Nach erfolgter Registrierung können auch beispielsweise die Absolutkoordinaten der zu der jeweiligen zur Referenzfotografie zugehörigen Referenzposition am realen bzw. virtuellen Objekt enthalten sein.
  • In einer vorteilhaften Ausgestaltung der Erfindung werden Untersuchungsdaten des Objektes, insbesondere Messwerte aus Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, gewonnen und dem Konstruktionsdatenmodell zugeordnet. Gemäß diesem Aspekt der Erfindung wird der zum Konstruktionsdatenmodell zugehörige Datensatz mit Untersuchungsdaten des Objektes ergänzt. Die Zuordnung dieser Untersuchungsdaten erzeugt eine zusätzliche Informationstiefe des zum realen Objekt zugehörigen virtuellen Konstruktionsdatenmodells, die Aufschluss über beispielsweise den Abnutzungs- oder Funktionszustand eines Bauteils oder einer Baugruppe einer komplexen Vorrichtung geben kann und zur Ableitung weiterer Maßnahmen genutzt werden kann. Denkbar ist im Rahmen der Erfindung auch die Erzeugung einer kompletten Bauteilhistorie des zu dem Konstruktionsdatenmodell zugehörigen Bauteils oder Baugruppe einer komplexen Vorrichtung, wobei die Historie sämtliche Ereignisse im Sinne von Reparatur- oder Instandhaltungsmaßnahmen enthalten kann. Gleichermaßen können dem Konstruktionsdatenmodell im Rahmen der Erfindung auch Annotationen zugeordnet werden.
  • In einer vorteilhaften Ausgestaltung der Erfindung werden Absolutkoordinaten des Ortes der Gewinnung der Untersuchungsdaten bestimmt. Gemäß diesem Aspekt der Erfindung findet eine genaue räumliche Zuordnung der gewonnenen Untersuchungsdaten im Sinne der Berücksichtigung der Relativkoordinaten der Untersuchung am Konstruktionsdatenmodell statt. Beispielsweise kann eine Thermografieaufnahme, welche an dem realen Objekt aufgenommen wurde, an passender Stelle dem Konstruktionsdatenmodell räumlich zugeordnet werden. Die genaue Kenntnis des räumlichen Bezugs zwischen der Gewinnung der Untersuchungsdaten und dem zugehörigen Ort am Konstruktionsdatenmodell ermöglicht eine weitreichendere und zugleich spezifischere Befundung und folgende Maßnahmenableitung.
  • In einer vorteilhaften Ausgestaltung der Erfindung werden die Untersuchungsdaten in einem Gerät der erweiterten Realität, vorzugsweise in einer AR-Brille, dargestellt. Gemäß diesem Aspekt der Erfindung sind sämtliche zuvor bereits aufgenommene und zur Verfügung gestellte in der Datenbank gespeicherte Untersuchungsdaten und Vermerke über ein Gerät der erweiterten Realität zugänglich. Bei großen Datenmengen werden nach der Erfindung eher nicht alle Daten auf dieses Gerät übertragen sondern einzeln darüber abgefragt. Ebenso kann es im Ausgestaltung der Erfindung sein, dass die Berechnung der Visualisierung außerhalb des Gerätes erfolgt, sodass dieses lediglich als Anzeigegerät ausgestaltet ist. Die Darstellbarkeit zusätzlicher Informationen mit Bezug zum realen und gegebenenfalls aber nicht ausschließlich vom Gerät der erweiterten Realität erfassten Objekt bietet Vorteile im Sinne einer allgemeinen Datenverfügbarkeit und Datendurchgängigkeit. Die im Rahmen des Gerätes der erweiterten Realität darstellbaren Informationen können beispielsweise vor Ort am realen Objekt zu treffende Entscheidungsprozesse unterstützen, oder bieten beispielsweise auch die Möglichkeit Aufgaben im Rahmen einer Abarbeitung nach einer zuvor geschehenen Maßnahmenableitung unter Berücksichtigung ebendieser Untersuchungsdaten und Vermerke abzuarbeiten.
  • In einer vorteilhaften Ausgestaltung der Erfindung wird zum messtechnischen Bestimmen der Absolutkoordinaten mindestens eine Markierung an dem Kalibrationspunkt angeordnet, deren Absolutkoordinaten von einer insbesondere ortsfest in dem Raum angeordneten, Messeinrichtung, deren Ortskoordinaten bekannt sind, bestimmt werden. Gemäß diesem Aspekt der Erfindung werden über mindestens eine an einem Kalibrationspunkt vorhandene Markierung die Absolutkoordinaten des Kalibrationspunktes messtechnisch festgestellt und für die räumliche Zuordnung der durchgeführten Untersuchung durch eine Messeinrichtung und/oder Bearbeitung des realen Objektes durch ein Werkzeug zu dem zugehörigen Ort am Konstruktionsdatenmodell benutzt. Die Ortsmesseinrichtung kann zum Beispiel mindestens einen Sensor umfassen, welcher zur Erzeugung von Bildern und/oder Videos benutzt wird, wie sie zum Beispiel in Videokameras oder Fotoapparaten enthalten sind, die zum Erfassen optischer, akustischer, elektrischer und/oder magnetischer Signale benutzt werden, wie zum Beispiel optischer Signale im sichtbaren, RGB, Bereich, oder optischer Signale im nicht-sichtbaren, IR oder UV, Bereich, akustische Signale im Hörbaren und nicht hörbaren Bereich. Die Markierung kann zum Beispiel eine Markierung sein, die sich über eine Messung im Infraroten oder Ultraviolettbereich vorteilhaft erfassen lässt.
  • In anderer vorteilhafter Ausgestaltung ist ein Kalibrationspunkt nicht erforderlich, sofern eine eindeutige räumliche Zuordnung aufgrund geometrischer Merkmale möglich ist und keine Mehrdeutigkeiten existieren (z.B. Rotation eines Zylinders). Die Messeinrichtung muss demnach im Rahmen der Erfindung nicht zwingend ortsfest sein, wenn die Relativpositionen von Objekt, Messeinrichtung und Beobachter und ggf. Werkzeug bekannt sind.
  • In einer vorteilhaften Ausgestaltung der Erfindung ist die Markierung an einem Werkzeug zur Bearbeitung des Objektes, vorzugsweise einem Handwerkzeug, und/oder an einer Messeinrichtung zur Untersuchung angeordnet. Gemäß diesem Aspekt der Erfindung lassen sich Werkzeuge zur Bearbeitung und Messeinrichtungen zur Untersuchung von Objekten über an ihnen angebrachte Markierungen, mindestens einer Markierung, räumlich erfassen und räumlich und zeitlich verfolgen, um so auch Bearbeitungs- und Untersuchungsschritte räumlich und zeitlich im Sinne eines markerbasierten Outside-In-Trackings verfolgen zu können. Dies ist vorteilhaft in Bezug auf die Zuordnung durchgeführter Bearbeitungen der Objekte durch Werkzeuge und durchgeführter Untersuchungen der Objekte durch Messeinrichtungen zu dem zugehörigen Ort am Konstruktionsdatenmodell im Sinne des Referenzierens der Arbeiten und der Untersuchungen und Zuweisen der entsprechenden Relativkoordinaten im Konstruktionsdatenmodell. Im Rahmen der Erfindung können auch Werkzeuge ohne Markierungen eingesetzt werden. Voraussetzung ist, dass die Werkzeuge sensorisch soweit erfasst werden können, dass eine Positionsbestimmung möglich ist. Üblicherweise ist das nicht der Fall, sodass eine Positionierung über Markierungen erfolgen sollte, deren Position zum Beispiel bezüglich der Werkzeugspitze bekannt ist.
  • Im Rahmen der Erfindung muss ein Objekt, welches über Reflektionsmarker getrackt wird, über eine eindeutige und individuelle Anordnung von mindestens drei Reflektionsmarkern verfügen. Dabei dürfen innerhalb dieser Anordnung keinerlei Symmetrien vorkommen. Diese Anordnung wird in die Trackingsoftware eingelernt, wodurch die Anordnung eindeutig einem Objekt zugeordnet werden kann.
  • In einer weiteren vorteilhaften Ausgestaltung der Erfindung wird das Werkzeug anhand der Absolutkoordinaten des Objektes und des Konstruktionsdatenmodells gesteuert, um das Objekt zu bearbeiten, und/oder wird die Messeinrichtung anhand der Absolutkoordinaten des Objektes und des Konstruktionsdatenmodells gesteuert, um das Objekt zu untersuchen. Gemäß diesem Aspekt der Erfindung werden sowohl Untersuchungen als auch Bearbeitungen unter Berücksichtigung der Absolutkoordinaten des Objektes im Raum und der zugehörigen Relativkoordinaten des Konstruktionsdatenmodells durchgeführt. So können ebengenau diese Untersuchungen und Bearbeitungen zuvor im Konstruktionsdatenmodell festgelegt und an Hilfssysteme, die Werkzeuge zur Bearbeitung oder Messeinrichtungen zur Untersuchung umfassen, übermittelt werden. Ein Hilfssystem kann zum Beispiel ein mobiler Armroboter sein, der mit Endeffektor und einer Ultraschall-Messeinrichtung zur Untersuchung eines Objektes ausgestattet ist, und dessen räumliche Position und Orientierung über mindestens eine Markierung messtechnisch bestimmt wird, sodass der Ort und die Orientierung des Hilfssystems als auch der Ort und die Orientierung des Werkzeuges und/oder der Messeinrichtung jederzeit messtechnisch bestimmbar ist. Die durchgeführten Untersuchungen und Bearbeitungen durch Werkzeuge und Messeinrichtungen werden ihrerseits, wie zuvor beschrieben, messtechnisch erfasst und dem zugehörigen Konstruktionsdatenmodell zugeordnet Alternativ kann das Objekt in Ausgestaltung der Erfindung auch über einen räumlich bekannten Anschlag so ausgerichtet werden, dass der Referenzpunkt nicht messtechnisch erfasst wird, sondern bereits bekannt ist. In diesem Falle ist auch die Position des Roboters zu diesem Punkt bekannt und man müsste nur noch die Position des Objektes bestimmen.
  • Die der Erfindung zugrunde liegende Aufgabe wird hinsichtlich des Systems mit einem gattungsgemäßen System gelöst, bei welchem Mittel zur Durchführung eines Mustererkennungsverfahrens vorgesehen sind. Auf diese Weise kann erfindungsgemäß die im Stand der Technik erforderliche händische Zuordnung entfallen. Stattdessen kann im Rahmen der Erfindung über Bildverarbeitungsroutinen der Kalibrationspunkt dem Konstruktionsdatenmodell zugeordnet werden. Dies eröffnet verbesserte Möglichkeiten bei der Archivierung von an dem Objekt gewonnenen Untersuchungsdaten gleichermaßen wie bei der Steuerung von Bearbeitungsmaschinen. Die Zuordnung eines Kalibrationspunktes kann im Rahmen der Erfindung auch entfallen. Im Sinne des markerlosen Trackings wird über das optisch erfasste Bauteil virtuell das dazugehörige Konstruktionsdatenmodell mit dem dazugehörigen Bauteilkoordinatensystem gelegt. Die Untersuchungsdaten werden in diesem Falle immer relativ zum so erfassten Bauteilkoordinatensystem aufgenommen.
  • Bei einer bevorzugten Ausgestaltungsform des Systems nach der Erfindung sind Verortungsmittel (7, 24, 25, 8, 37) zur messtechnischen Bestimmung von Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt (2, 20) bezogen auf den Raum (1, 19) vorgesehen, wobei die Mittel zur Durchführung eines Mustererkennungsverfahrens zur Zuordnung des Kalibrationspunktes zu dem Konstruktionsdatenmodell ausgebildet sind.
  • In weiterer vorteilhafter Ausgestaltung der erfindungsgemäßen Systems umfasst es ein Referenzpunkte aufweisendes Referenzobjekt.
  • Im Rahmen der Erfindung können mit Vorteil die Verortungsmitteln zur messtechnischen Bestimmung von Absolutkoordinaten und die Mittel zur Aufnahme einer Fotografie des Objektes miteinander integriert ausgebildet sein. Entscheidend im Rahmen der Erfindung ist nicht die Aufnahme von Fotografien, sondern das markerlose Tracking. Es werden demnach erfindungsgemäß die Vorteile des markerbasierten Trackings mit den Vorteilen des markerlosen trackings kombiniert.
  • In einer vorteilhaften Ausgestaltung der Erfindung umfassen die Verortungsmittel Markierungsmittel zum Anordnen an dem Kalibrationspunkt sowie eine insbesondere ortsfest in dem Raum angeordnete Ortsmesseinrichtung, deren Ortskoordinaten bekannt sind, zur Bestimmung von Absolutkoordinaten der Markierungsmittel. Gemäß diesem Aspekt der Erfindung werden über mindestens eine an einem Kalibrationspunkt vorhandene Markierung die Absolutkoordinaten des Kalibrationspunktes messtechnisch festgestellt und für die räumliche Zuordnung der durchgeführten Untersuchung durch eine Messeinrichtung und/oder Bearbeitung des realen Objektes durch ein Werkzeug zu dem zugehörigen Ort am Konstruktionsdatenmodell benutzt. Die Ortsmesseinrichtung kann zum Beispiel mindestens einen Sensor umfassen, welcher zur Erzeugung von Bildern und/oder Videos benutzt wird, wie sie zum Beispiel in Videokameras oder Fotoapparaten enthalten sind, die zum Erfassen optischer, akustischer, elektrischer und/oder magnetischer Signale benutzt werden, wie zum Beispiel optischer Signale im sichtbaren, RGB, Bereich, oder optischer Signale im nicht-sichtbaren, IR oder UV, Bereich, akustische Signale im Hörbaren und nicht hörbaren Bereich. Die Markierung kann zum Beispiel eine Markierung sein, die sich über eine Messung im Infraroten oder Ultraviolettbereich vorteilhaft erfassen lässt.
  • In einer vorteilhaften Ausgestaltung der Erfindung ist ein Werkzeug, vorzugsweise Handwerkzeug, Werkzeug zur Bearbeitung des Objektes und/oder eine Messeinrichtung zur Untersuchung des Objektes, insbesondere für Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, an welchem/welcher die Markierungsmittel angeordnet sind, vorgesehen. Gemäß diesem Aspekt der Erfindung wird der zum Konstruktionsdatenmodell zugehörige Datensatz mit Untersuchungsdaten des Objektes ergänzt. Die Zuordnung dieser Untersuchungsdaten erzeugt eine zusätzliche Informationstiefe des zum realen Objekt zugehörigen virtuellen Konstruktionsdatenmodells, die Aufschluss über beispielsweise den Abnutzungs- oder Funktionszustand eines Bauteils oder einer Baugruppe einer komplexen Vorrichtung geben kann und zur Ableitung weiterer Maßnahmen genutzt werden kann. Denkbar ist hier auch eine komplette Bauteilhistorie des zu dem Konstruktionsdatenmodell zugehörigen Bauteils oder Baugruppe einer komplexen Vorrichtung, wobei die Historie sämtliche Ereignisse im Sinne von Reparatur- oder Instandhaltungsmaßnahmen enthalten kann.
  • In einer vorteilhaften Ausgestaltung der Erfindung ist eine Datenbank vorgesehen, in welcher lokalisierte Daten, vorzugsweise optische Referenzinformationen, insbesondere Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte abrufbar speicherbar sind, wobei jeden lokalisierten Daten ein zu dem identifizierten Objekt gehörendes Konstruktionsdatenmodell zugeordnet und vorzugsweise in der Datenbank gespeichert ist. Gemäß diesem Aspekt der Erfindung ist eine Datenbank vorhanden oder wird in einem vorbereitenden Verfahrensschritt erzeugt, welche Referenzfotografien möglicher zu bearbeitender und/oder zu untersuchender Objekte enthält. Diese Datenbank, die auch weitere Merkmale enthalten kann, beispielsweise die Daten der Konstruktionsdatenmodelle, wie zum Beispiel CAD Daten, mit all ihren Detailinformationen, kann in allen weiteren Verfahrensschritten inklusive ihrer Inhalte abrufbar sein und kann beispielsweise zur weitergehenden Informationsverarbeitung, Maßnahmenableitung, und Darstellung in einem Gerät der erweiterten Realität genutzt werden. Nach erfolgter Registrierung können auch beispielsweise die Absolutkoordinaten der zu der jeweiligen zur Referenzfotografie zugehörigen Referenzposition am realen bzw. virtuellen Objekt enthalten sein.
  • In einer vorteilhaften Ausgestaltung der Erfindung sind Darstellungsmittel, vorzugsweise eine AR-Brille, zur Darstellung mit der Messeinrichtung gewonnener Untersuchungsdaten vorgesehen. Gemäß diesem Aspekt der Erfindung sind sämtliche zuvor bereits aufgenommene und zur Verfügung gestellte in der Datenbank gespeicherte Untersuchungsdaten und Vermerke für die Darstellung in einem Gerät der erweiterten Realität verfügbar. Die Darstellbarkeit zusätzlicher Informationen mit Bezug zum realen und gegebenenfalls aber nicht ausschließlich vom Gerät der erweiterten Realität erfassten Objekt bietet Vorteile im Sinne einer allgemeinen Datenverfügbarkeit und Datendurchgängigkeit. Die im Rahmen des Gerätes der erweiterten Realität darstellbaren Informationen können beispielsweise vor Ort am realen Objekt zu treffende Entscheidungsprozesse unterstützen, oder bieten beispielsweise auch die Möglichkeit Aufgaben im Rahmen einer Abarbeitung nach einer zuvor geschehenen Maßnahmenableitung unter Berücksichtigung ebendieser Untersuchungsdaten und Vermerke abzuarbeiten.
  • In einer vorteilhaften Ausgestaltung der Erfindung sind an den Darstellungsmitteln die Markierungsmittel angeordnet. Gemäß diesem Aspekt der Erfindung kann die Position und Orientierung der Darstellungsmittel durch eine Messeinrichtung, deren Ortskoordinaten bekannt sind, bestimmt werden. Durch die Bestimmung der Position und der Orientierung der Darstellungseinrichtung können die dargestellten Informationen, beispielsweise der erweiterten Realität, unter Berücksichtigung des Bezuges der Darstellungseinrichtung zum referenzierten Objekt, deckungsgleich mit dem über einen visuellen Sensor aufgenommenen Bild des realen Objektes im Sinne eines Inside-Out-Trackings dargestellt werden.
  • In einer vorteilhaften Ausgestaltung des Systems gemäß der Erfindung ist es zur Durchführung eines Verfahrens nach einem der Ansprüche 1 bis 9 ausgebildet.
  • Die Erfindung wird in einer bevorzugten Ausführungsform unter Bezugnahme auf eine Zeichnung beispielhaft beschrieben, wobei weitere vorteilhafte Einzelheiten den Figuren der Zeichnung zu entnehmen sind.
  • Funktionsmäßig gleiche Teile sind dabei mit denselben Bezugszeichen versehen.
  • Die Figuren der Zeichnung zeigen im Einzelnen:
    • 1: Eine schematische Darstellung einer ersten Ausführungsform des erfindungsgemäßen Systems und eines zu untersuchenden Objektes in einem Raum, zur Veranschaulichung einer ersten Ausführungsform des erfindungsgemäßen Verfahrens;
    • 2: Eine schematische Darstellung einer zweiten Ausführungsform des erfindungsgemäßen Systems und eines zu bearbeitenden Objektes in einem Raum, zur Veranschaulichung einer zweiten Ausführungsform des erfindungsgemäßen Verfahrens;
    • 3: Fließschema zur Veranschaulichung der Durchführung einer bevorzugten Ausgestaltung des erfindungsgemäßen Verfahrens;
    • 4: eine schematische Darstellung entsprechend 1 zur Veranschaulichung eines Kalibriervorgangs im Rahmen des erfindungsgemäßen Verfahrens.
  • Die 1 zeigt zur Veranschaulichung einer ersten Ausführungsform des erfindungsgemäßen Verfahrens einen Raum 1, in welchem ein System nach der Erfindung zum Registrieren einer zu untersuchenden Turbinenschaufel 2 vorhanden ist. Das System umfasst an Seitenwänden 3, 4 und an der Rückwand 11 des Raumes 1 jeweils eine Kamera 5, 6, sowie an einer Rückwand 11 eine Kamera 7, deren Ortskoordinaten jeweils bekannt sind, zum markerlosen Tracking, und an der Rückwand 11 eine Kamera 65, deren Ortskoordinaten bekannt sind, zum markerbasierten Tracking. Die Kamera 65 ist ortsfest montiert und als IR Sensorsystem zum markerbasierten Tracking ausgestaltet. Ferner umfasst das System ein mit Markern 8 versehenes Handwerkzeug 9 zum Setzen einer Markierung 10 an der Turbinenschaufel 2. Weiterhin ist an der Rückwand 11 des Raumes 1 ein Computerbildschirm 12 angebracht, welcher mit mindestens einer Datenbank 13 verbunden ist, sodass auf dem Computerbildschirm 12 eine virtuelle Bauteilkopie 14 angezeigt werden kann, und welcher ebenfalls die virtuelle Markierung 10, die zuvor mit dem Handwerkzeug 9 auf die zu untersuchende Turbinenschaufel 2 gesetzt wurde, darstellen kann. Der Benutzer 15 kann zusätzlich über Eingabegeräte 16, 17 Vermerke 18 an der virtuellen Bauteilkopie 14 der Turbinenschaufel 2 hinzufügen.
  • Die 2 zeigt zur Veranschaulichung einer zweiten Ausführungsform des erfindungsgemäßen Verfahrens einen Raum 19, in welchem ein System nach der Erfindung zum Registrieren einer zu bearbeitenden Landeklappe 20 vorhanden ist. Das System umfasst eine abgehängte Deckenkonstruktion 21, an der ortsfest montierte Kameras 22, 23, 24, 25 zum markerlosen Tracking, sowie ortsfest montierte IR Sensoren 26, 27, 28, 29 zum markerbasierten Tracking mittels IR Markern montiert sind. Mit Hilfe der IR Sensoren 26, 27, 28, 29 kann Ort und Positionierung eines mit IR Markern 30 versehenen mobilen Armroboters bestimmt werden. Der mobile Armroboter 30 verfügt über einen Endeffektor 32 mit einem Bearbeitungswerkzeug 33. Eine Arbeitskraft 34, die mit einer AR-Brille 35, die über eine Markierung 42 verfügt, und einem Handwerkzeug 36, welches mit einem Marker 37 versehen ist, ausgestattet ist, setzt auf dem zu bearbeitenden und auf einer Arbeitsplattform 40 liegenden Landeklappe 20 eine Markierung 38. Der Ort der Markierung 38 auf der zu bearbeitenden Landeklappe 20 wird mittels des Markers 37 am Handwerkzeug 36 der Arbeitskraft 34 über die auf der Deckenkonstruktion 21 montierten Kameras 24, 25, 26, 27, 28, 29, deren Ortskoordinaten bekannt sind, für markerbasiertes Tracking registriert und in der entsprechenden virtuellen Bauteilkopie, die in einer Datenbank 39 gespeichert ist, vermerkt. Mittels der AR-Brille 35 werden zusätzliche Bauteilinformationen aus der Datenbank 39 für die Arbeitskraft sichtbar dargestellt. Unter Zuhilfenahme der AR-Brille können Markierungen 38 am der zu bearbeitenden Landeklappe 20 zusammen mit Ausführungsbefehlen und Bauteilinformationen aus der Datenbank 39 mittels einer Datenverbindung 41 an den mobilen Armroboter 30 übermittelt werden, sodass der mobile Armroboter 30 mit einem Bearbeitungswerkzeug 33 einen Arbeitsschritt an der Landeklappe 20 durchführen kann.
  • Die 3 zeigt zur Veranschaulichung einer möglichen Ausführungsform des erfindungsgemäßen Verfahrens ein Fließschema. In einem ersten Vorbereitungsschritt 43 werden vorbereitende Maßnahmen getroffen, beispielsweise das Erzeugen einer Referenzfotografien enthaltenden Datenbank gemäß der Ansprüche 3 und 13. Nachfolgend werden gleichgestellt Verfahren zum markerbasierten Tracken 44 von mit Markern versehenen Hilfssystemen eingesetzt, als auch Verfahren zum markerlosen Tracken 45 von markierungslosen Bauteilen. Markierungen aufweisende Hilfssysteme sind beispielsweise ein Mobiler Roboter 46, eine AR-Brille 47 und ein Markierungssystem 48, wie beispielsweise eine an einem Handwerkzeug 9, 36 angebrachte Markierung 8, 37. Dem Verfahren zum Tracken 45 von markierungslosen Bauteilen zugehörig sind Verfahren zur optischen Bauteilerkennung 49, Bauteilidentifizierung 50 und ein Verfahren zum Datenbankabgleich 51 zwecks des Erhaltens eines lokalen Koordinatensystems 52 des identifizierten Bauteils 2, 20.
  • Die in der Vorbereitung aufgeführten Verfahrensschritte werden nachfolgend benutzt, um zueinander in Bezug stehende weitere Prozessschritte, wie sie nachfolgend beispielhaft aufgeführt sind, durchzuführen.
  • Eine Arbeitskraft 34 führt eine visuelle Inspektion und Schadensmarkierung 53 durch. Das Setzen der Markierung 10, 38 sowie gegebenenfalls ein zusätzlicher Vermerk 18 werden über Kameras für markerbasiertes Tracking 65, 24, 25, deren Ortskoordinaten bekannt sind, erfasst, ausgewertet und mit räumlichem Bezug zum Bauteil 2, 20, insbesondere in dem Konstruktionsdatenmodell, gespeichert 54.
  • Diesem Schritt schließt sich ein weiterer Verfahrensschritt an, in welchem die Übermittlung eines Ausführungsbefehls 55, beispielsweise unter Zuhilfenahme einer mit Markierungen 38 versehenen AR-Brille 35 und eines Vermerks 18, an einen Roboter 30 mittels Datenverbindung 41 folgt. Der mobile Roboter 30 wird zum zu untersuchenden oder zu bearbeitenden Bauteil 2, 20 gesteuert, wo dieser an der markierten Stelle 10, 38 eine Untersuchung oder Bearbeitung durchführt 56. Die Untersuchungsdaten oder Daten der Bearbeitung des Bauteils 2, 20 werden mit Bauteilbezug in einer Datenbank 39 gespeichert 57.
  • In einem vorletzten und letzten Verfahrensschritt können die gewonnenen Inspektionsdaten der Untersuchung durch automatische Bearbeitungsroutinen analysiert werden 58 und nachfolgend oder direkt mittels einer AR-Brille 35 visualisiert werden 59.
  • Die 4 zeigt zur Veranschaulichung des erfindungsgemäßen Kalibriervorgangs den Raum 1 gemäß 1, in welchem ein System nach der Erfindung vorhanden ist. Wie bereits im Zusammenhang mit 1 erläutert, umfasst das System an Seitenwänden 3,4 des Raums 1 jeweils eine ortsfest montierte Kamera 5, 6 zum markerlosen Tracking, an einer Rückwand 11 eine ortsfest montierte Kamera 7 zum markerbasierten Tracking , sowie ein mit Markern 8 versehenes Handwerkzeug 9. Weiterhin ist an der Rückwand 11 des Raumes 1 ein Computerbildschirm 12 angebracht. Der Computerbildschirm 12 ist mit mindestens einer Datenbank 13 verbunden. Ebenfalls zu erkennen sind in der 4 eine Tastatur 17 sowie eine Maus 16 als Eingabegeräte. Ferner ist in der 4 ein Kalibrationsdreieck 60 zu erkennen. Das Kalibrationsdreieck 60 ist an den Ecken jeweils mit einem Reflexionsmarker 61, 62, 63 versehen. Die Reflexionsmarker 61, 62, 63 des Kalbrationsdreiecks 60 dienen zur Kalibration der Kamera 65 für markerbasiertes Tracking. Das Prinzip der Kalibration beruht dabei darauf, dass das Kalibrationsdreieck 60 bekannte Abmessungen hat und dass die Reflexionsmarker 61, 62, 63 auf dem Kalibrationsdreieck 60 auf dem Kalibrationsdreieck 60 an bekannten Positionen in Bezug auf das Kalibrationsdreieck 60 sowie in Bezug zu den jeweils anderen Reflexionsmarkern angeordnet sind. Im Rahmen der Erfindung wird das Kalibrationsdreieck 60 so platziert, dass es sowohl von der Kamera 65 für markerbasiertes Tracking als auch von den Kameras 5, 6, 7 für markerloses Tracking erfasst werden kann. Somit kann im Rahmen der Erfindung mithilfe des Kalibrationsdreieck 60 eine Kalibration der Kameras 5, 6, 7 für markerloses Tracking gleichermaßen wie der Kamera 65 für markerbasiertes Tracking vorgenommen werden. Dabei werden aufgrund der bekannten Abmessungen sowie der bekannten absoluten wie relativen Positionen der Reflexionsmarker 61, 62, 63 des Kalibrationsdreieck 60 Koordinatensysteme für markerbasiertes Tracking gleichermaßen wie Koordinatensysteme für markerbasiertes Tracking erfasst und können zueinander in Bezug gebracht werden. Um im Rahmen der Erfindung eine Skalierung der Kameras 5, 6, 7, 65 zu erreichen, wird das Handwerkzeug 9, was als Stab ausgeformt ist, mit den daran in bekannten Positionen angeordneten Markern 8 entlang einer Trajektorie 64, welche in der Figur durch gestrichelte Linien angezeigt ist, bewegt. Die Trajektorie 64 ist im Rahmen der Erfindung so gewählt, dass das als Stab ausgeformte Handwerkzeug 9 mit den Markern 8 in Erfassungsfeld der Kameras 5, 6, 7, 65 in allen Raumrichtungen translatorisch bewegt wird als auch um alle Achsen rotiert wird, d.h. das Handwerkzeug 9 wird nach oben, nach unten nach links, nach rechts, nach vorne und nach hinten bewegt und sowohl um die vertikale Achse als auch um die horizontale Achse rotiert. Dies ist bei der in 4 beispielhaft gezeigten Trajektorie 64 der Fall.
  • Die Präzision der Kalibration verbessert sich gemäß der Erfindung, wenn die Ausdehnung der Trajektorie 64 im Raum 1 vergrößert wird. Die Bewegung entlang der Trajektorie 64 sollte zudem kontinuierlich erfolgen. Somit sind im Rahmen der Erfindung ein Verfahren und ein System vorgeschlagen, welche unter Umgehung der Nachteile des Standes des Technik ein bequemeres, weniger fehleranfälliges Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum ermöglichen.
  • Bezugszeichenliste
  • 1
    Raum
    2
    Zu untersuchende Turbinenschaufel
    3
    Seitenwand
    4
    Seitenwand
    5
    Kamera für markerloses Tracking
    6
    Kamera für markerloses Tracking
    7
    Kamera für markerloses Tracking
    8
    IR-Marker
    9
    Handwerkzeug
    10
    Markierung
    11
    Rückwand
    12
    Computerbildschirm
    13
    Datenbank
    14
    Virtuelle Bauteilkopie
    15
    Benutzer
    16
    Eingabegerät
    17
    Eingabegerät
    18
    Vermerk
    19
    Raum
    20
    Zu bearbeitende Landeklappe
    21
    Deckenkonstruktion
    22
    Kamera für markerloses Tracking
    23
    Kamera für markerloses Tracking
    24
    Kamera für markerloses Tracking
    25
    Kamera für markerloses Tracking
    26
    IR Sensor für markerbasiertes Tracking
    27
    IR Sensor für markerbasiertes Tracking
    28
    IR Sensor für markerbasiertes Tracking
    29
    IR Sensor für markerbasiertes Tracking
    30
    mobiler Armroboter
    31
    IR Marker
    32
    Endeffektor
    33
    Bearbeitungswerkzeug
    34
    Arbeitskraft
    35
    AR-Brille
    36
    Handwerkzeug
    37
    Marker
    38
    Markierung
    39
    Datenbank
    40
    Arbeitsplattform
    41
    Datenverbindung
    42
    Markierung
    43
    Vorbereitungsschritt
    44
    Tracken von mit Markern versehenen Hilfssystemen
    45
    Tracken von markierungsfreien Bauteilen
    46
    Mobiler Roboter
    47
    AR-Brille
    48
    Markierungssystem
    49
    Bauteilerkennung
    50
    Bauteilidentifizierung
    51
    Datenbankabgleich
    52
    Lokales Koordinatensystem
    53
    Visuelle Inspektion und Schadensmarkierung
    54
    Speichern der Annotation mit Bezug zum Bauteil
    55
    Übermittlung eines Ausführungsbefehls an einen Roboter
    56
    Mobiler Roboter 30 wird zum zu untersuchenden Bauteil gesteuert und führt Untersuchung oder Bearbeitung durch
    57
    Speichern der Inspektionsdaten mit Bauteilbezug
    58
    Automatische Analyse der Inspektionsdaten
    59
    Prüfdatenvisualisierung mittels AR-Brille
    60
    Kalibrationsdreieck
    61
    Reflexionsmarker
    62
    Reflexionsmarker
    63
    Reflexionsmarker
    64
    Trajektorie
    65
    Kamerasystem für markerbasiertes Tracking
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • US 2015/0062123 A1 [0003, 0004]

Claims (21)

  1. Verfahren zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes (2, 20) enthaltenden Konstruktionsdatenmodells in einem Raum (1, 19), dadurch gekennzeichnet, dass lokalisierte Daten, vorzugsweise eine optische Information, insbesondere Fotografie, des Objektes (2, 20) aufgenommen werden und anschließend das Objekt (2, 20) mittels eines Mustererkennungsverfahrens in der optischen Information identifiziert wird.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt (2, 20) bezogen auf den Raum (1, 19) messtechnisch bestimmt werden, wobei der Kalibrationspunkt mittels eines Bildverarbeitungsverfahrens dem zu dem identifizierten Objekt (2, 20) gehörenden Konstruktionsdatenmodell zugeordnet wird.
  3. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass zur messtechnischen Bestimmung der Absolutkoordinaten mindestens ein Referenzpunkte aufweisendes Referenzobjekt (60) in dem Raum (1, 19) platziert wird, wobei vorzugsweise Referenzabsolutkoordinaten des Referenzobjekts (60) in dem Raum (1, 19) ermittelt werden.
  4. Verfahren nach einem der Ansprüche 2 oder 3, dadurch gekennzeichnet, dass ein mit an bekannten Positionen angeordneten Markern versehener, insbesondere stabartiger, Gegenstand (9), vorzugsweise in allen Raumrichtungen, translatorisch bewegt und, vorzugsweise um alle Raumachsen, rotiert wird, wobei lokalisierte Daten, des Gegenstands (9) aufgenommen werden.
  5. Verfahren nach Anspruch einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Mustererkennungsverfahren einen Schritt (51) des Vergleichens der lokalisierten Daten, vorzugsweise der optischen Information, insbesondere Fotografie, mit Referenzinformationen, vorzugsweise Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte (2, 20) umfasst.
  6. Verfahren nach Anspruch 1 oder 3, dadurch gekennzeichnet, dass die lokalisierten Daten, insbesondere optischen Referenzinformationen, vorzugsweise Referenzfotografien, aufgenommen und in einer Datenbank (13, 39) abrufbar gespeichert werden.
  7. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass Untersuchungsdaten des Objektes (2, 20), insbesondere Messwerte aus Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, gewonnen und dem Konstruktionsdatenmodell zugeordnet werden.
  8. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass Absolutkoordinaten des Ortes der Gewinnung der Untersuchungsdaten bestimmt werden.
  9. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Untersuchungsdaten in einem Gerät der erweiterten Realität, vorzugsweise in einer AR-Brille (35), dargestellt werden.
  10. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass zum messtechnischen Bestimmen der Absolutkoordinaten mindestens eine Markierung (8, 37) an dem Kalibrationspunkt angeordnet wird, deren Absolutkoordinaten von einer, insbesondere ortsfest in dem Raum (1, 19) angeordneten, Messeinrichtung (7, 24, 25), deren Ortskoordinaten bekannt sind, bestimmt werden.
  11. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass die Markierung (8, 37) an einem Werkzeug zur Bearbeitung des Objektes (2, 20), vorzugsweise einem Handwerkzeug (9, 36), und/oder an einer Messeinrichtung zur Untersuchung angeordnet ist.
  12. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass das Werkzeug anhand der Absolutkoordinaten des Objektes (2, 20) und des Konstruktionsdatenmodells gesteuert wird, um das Objekt (2, 20) zu bearbeiten, und/oder dass die Messeinrichtung anhand der Absolutkoordinaten des Objektes (2, 20) und des Konstruktionsdatenmodells gesteuert wird, um das Objekt (2, 20) zu untersuchen.
  13. System zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes (2, 20) enthaltenden Konstruktionsdatenmodells in einem Raum (1, 19), und Mitteln (5, 6, 22, 23) zur Aufnahme lokalisierter Daten, vorzugsweise einer optischen Information, insbesondere Fotografie, des Objektes (2, 20), dadurch gekennzeichnet, dass Mittel zur Durchführung eines Mustererkennungsverfahrens vorgesehen sind.
  14. System nach Anspruch 13, dadurch gekennzeichnet, dass Verortungsmittel (7, 24, 25, 8, 37) zur messtechnischen Bestimmung von Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt (2, 20) bezogen auf den Raum (1, 19) vorgesehen sind, wobei die Mittel zur Durchführung eines Mustererkennungsverfahrens zur Zuordnung des Kalibrationspunktes zu dem Konstruktionsdatenmodell ausgebildet sind.
  15. System nach Anspruch 14 oder 15, dadurch gekennzeichnet, dass es ein Referenzpunkte aufweisendes Referenzobjekt umfasst.
  16. System nach Anspruch einem der Ansprüche 14 bis 15, dadurch gekennzeichnet, dass die Verortungsmittel (7, 24, 25, 8, 37) Markierungsmittel (8, 37) zum Anordnen an dem Kalibrationspunkt sowie eine, insbesondere ortsfest, in dem Raum (1, 19) angeordnete Ortsmesseinrichtung (7, 24, 25), deren Ortskoordinaten bekannt sind, zur Bestimmung von Absolutkoordinaten der Markierungsmittel (7, 24, 25) umfassen.
  17. System nach einem der Ansprüche 14 bis 16, dadurch gekennzeichnet, dass ein Werkzeug, vorzugsweise Handwerkzeug (9, 36), Werkzeug (33) zur Bearbeitung des Objektes (2, 20) und/oder eine Messeinrichtung zur Untersuchung des Objektes (2, 20), insbesondere für Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, an welchem/welcher die Markierungsmittel (8, angeordnet sind, vorgesehen ist.
  18. System nach einem der Ansprüche 14 bis 17, dadurch gekennzeichnet, dass eine Datenbank (13, 39) vorgesehen ist, in welcher lokalisierte Daten, vorzugsweise optische Referenzinformationen, insbesondere Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte (2, 20) abrufbar speicherbar sind, wobei jeden lokalisierten Daten ein zu dem identifizierten Objekt (2, 20) gehörendes Konstruktionsdatenmodell zugeordnet und vorzugsweise in der Datenbank (13, 39) gespeichert ist.
  19. System nach einem der Ansprüche 14 bis 18, dadurch gekennzeichnet, dass Darstellungsmittel (12, 35), vorzugsweise eine AR-Brille (35), zur Darstellung mit der Messeinrichtung gewonnener Untersuchungsdaten vorgesehen sind.
  20. System nach einem der Ansprüche 14 bis 19, dadurch gekennzeichnet, dass an den Darstellungsmitteln (12, 35) die Markierungsmittel angeordnet sind.
  21. System nach einem der Ansprüche 14 bis 19, dadurch gekennzeichnet, dass es zur Durchführung eines Verfahrens nach einem der Ansprüche 1 bis 13 ausgebildet ist.
DE102019110185.9A 2019-04-17 2019-04-17 Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum Ceased DE102019110185A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102019110185.9A DE102019110185A1 (de) 2019-04-17 2019-04-17 Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102019110185.9A DE102019110185A1 (de) 2019-04-17 2019-04-17 Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum

Publications (1)

Publication Number Publication Date
DE102019110185A1 true DE102019110185A1 (de) 2020-10-22

Family

ID=72660399

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102019110185.9A Ceased DE102019110185A1 (de) 2019-04-17 2019-04-17 Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum

Country Status (1)

Country Link
DE (1) DE102019110185A1 (de)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030209096A1 (en) * 2001-01-30 2003-11-13 Z-Kat, Inc. Tool calibrator and tracker system
US20120116728A1 (en) * 2010-11-05 2012-05-10 Autodesk, Inc. Click to accept as built modeling
US20150062123A1 (en) * 2013-08-30 2015-03-05 Ngrain (Canada) Corporation Augmented reality (ar) annotation computer system and computer-readable medium and method for creating an annotated 3d graphics model
DE102015211047A1 (de) * 2015-06-16 2016-12-22 Siemens Healthcare Gmbh Verfahren zur Erzeugung eines Fertigungsmodells für ein patientenspezifisches medizinisches Objekt
US20180012413A1 (en) * 2015-02-03 2018-01-11 Globus Medical, Inc. Surgeon head-mounted display apparatuses
WO2018156633A1 (en) * 2017-02-21 2018-08-30 Novarad Corporation Augmented reality viewing and tagging for medical procedures
WO2018207173A1 (en) * 2017-05-07 2018-11-15 Manam Applications Ltd. System and method for construction 3d modeling and analysis

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030209096A1 (en) * 2001-01-30 2003-11-13 Z-Kat, Inc. Tool calibrator and tracker system
US20120116728A1 (en) * 2010-11-05 2012-05-10 Autodesk, Inc. Click to accept as built modeling
US20150062123A1 (en) * 2013-08-30 2015-03-05 Ngrain (Canada) Corporation Augmented reality (ar) annotation computer system and computer-readable medium and method for creating an annotated 3d graphics model
US20180012413A1 (en) * 2015-02-03 2018-01-11 Globus Medical, Inc. Surgeon head-mounted display apparatuses
DE102015211047A1 (de) * 2015-06-16 2016-12-22 Siemens Healthcare Gmbh Verfahren zur Erzeugung eines Fertigungsmodells für ein patientenspezifisches medizinisches Objekt
WO2018156633A1 (en) * 2017-02-21 2018-08-30 Novarad Corporation Augmented reality viewing and tagging for medical procedures
WO2018207173A1 (en) * 2017-05-07 2018-11-15 Manam Applications Ltd. System and method for construction 3d modeling and analysis

Similar Documents

Publication Publication Date Title
DE102007033486B4 (de) Verfahren und System zur Vermischung eines virtuellen Datenmodells mit einem von einer Kamera oder einer Darstellungsvorrichtung generierten Abbild
EP2524329B1 (de) Anordnung und verfahren zur verifikation eines realen modells unter verwendung eines virtuellen modells sowie verwendung im flugzeugbau
AT518859B1 (de) Verfahren und Vorrichtung zur Härteprüfung
EP2019283B1 (de) Verfahren und Vorrichtung zur Vermessung von Ist-Messdaten eines Bauteils
DE102012220115A1 (de) Bildgebendes System, Operationsvorrichtung mit dem bildgebenden System und Verfahren zur Bildgebung
DE102008055528A1 (de) System und Verfahren zur "Augmented Reality" - Inspektion und Datenvisualisierung
DE102008041523A1 (de) Verfahren zur dreidimensionalen Messung und Vorrichtung zur dreidimensionalen Messung
DE112006002674T5 (de) Verfahren und Vorrichtungen für praktisches 3D-Sichtigkeitssystem
DE102009012590A1 (de) Vorrichtung zum Ermitteln der Stellung eines Roboterarms mit Kamera zur Durchführung von Aufnahmen
EP1910999B1 (de) Verfahren und anordnung zur bestimmung der relativen lage eines ersten objektes bezüglich eines zweiten objektes, sowie ein entsprechendes computerprogramm und ein entsprechendes computerlesbares speichermedium
DE102012220882A1 (de) System und Verfahren unter Verwendung eines Bearbeitungsinitialisierungsblocks in einer Teileprogramm-Bearbeitungsumgebung in einem Maschinenvisionssystem
EP2133659A1 (de) Verfahren und Vorrichtung zur Ermittlung der Lage eines Sensors
DE102012216908A1 (de) Verfahren unter Verwendung einer Bildkorrelation zum Bestimmen von Positionsmessungen in einem Maschinenvisionssystem
DE102011114333A1 (de) Verfahren zur Registrierung eines Röntgenvolumens mit einem Lageerfassungssystem unter Verwendung eines Registrierphantoms
EP2930652A1 (de) Verfahren zur thermischen Überwachung von Objekten
DE102014104514B4 (de) Verfahren zur Messdatenvisualisierung und Vorrichtung zur Durchführung des Verfahrens
DE102006005990B4 (de) Werkstückvermessung für 3-D Lageerkennung in mehreren Multi-Roboter-Stationen
DE102019113799B4 (de) Messsystem und Verfahren zum Vermessen eines Messobjekts
DE19746639A1 (de) Verfahren zur digitalen Erfassung räumlicher Objekte und Szenen für eine 3D-Bildkarte sowie 3D-Bildkarte
EP3494391B1 (de) Verfahren zur bedienung eines röntgen-systems
DE102019110185A1 (de) Verfahren und System zum Registrieren eines Konstruktionsdatenmodells in einem Raum
WO2009018894A1 (de) Verfahren und vorrichtung zum bestimmen von geometriedaten eines messobjekts
DE102019201134B4 (de) Verfahren, Computerprogramm mit Instruktionen und System zum Einmessen einer Augmented-Reality-Brille und Augmented-Reality-Brille zur Verwendung in einem Kraftfahrzeug
EP1915239A2 (de) Verfahren zum erzeugen eines umgebungsbildes
DE102011089856A1 (de) Inspektion eines Prüfobjektes

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R079 Amendment of ipc main class

Free format text: PREVIOUS MAIN CLASS: A61B0034200000

Ipc: G01C0011000000

R002 Refusal decision in examination/registration proceedings
R003 Refusal decision now final