-
Die vorliegende Erfindung betrifft ein Verfahren zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum.
-
Die vorliegende Erfindung betrifft zudem ein System zum Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum, mit Mitteln zur Aufnahme lokalisierter Daten, vorzugsweise einer optischen Information, insbesondere Fotografie, des Objektes.
-
Ein derartiges Verfahren und System sind bereits aus der Offenlegungsschrift
US 2015/0062123A1 bekannt. Aus der
US 2015/0062123A1 ist ein System der erweiterten Wirklichkeit mit der Möglichkeit des Hinzufügens von Vermerken innerhalb der Umgebung der erweiterten Wirklichkeit und ein Verfahren zum Erstellen eines mit Vermerken versehenen dreidimensionalen Grafikmodells bekannt.
-
Laut der Beschreibung in
US 2015/0062123A1 , muss ein Benutzer ein mit einem Positionssensor ausgestattetes Tablet zunächst manuell an mindestens zwei Kalibrierungspunkte des in der realen Wirklichkeit existierenden Objektes heranführen, sodass ein in der virtuellen Wirklichkeit und mit dem in der realen Wirklichkeit existierendes in räumliche Übereinstimmung zu bringendes Objekt derart orientiert werden kann, dass es auf einem Gerät zur Darstellung einer erweiterten Wirklichkeit deckungsgleich mit dem über einen visuellen Sensor aufgenommenen Bild des realen Objektes dargestellt werden kann. Durch das Vergleichen und in Bezug setzen der Kalibrierungspunkte des realen Objektes und des in der virtuellen Wirklichkeit existierenden Objektes ist die räumliche Orientierung des realen Objektes zu der räumlichen Orientierung des virtuellen Objektes bekannt. In einem der Ausrichtung des in der Wirklichkeit existierenden Objektes und dem in der virtuellen Wirklichkeit existierenden Objektes folgendem Schritt wird ein zweidimensionales Kamerabild oder ein Video des realen Objektes, welches mit Vermerken versehen ist, auf Oberflächen des virtuellen Objektes projiziert, indem die 3D Koordinaten und die räumliche Orientierung des Bildes oder des Videos des visuellen Sensors im realen Raum in den dreidimensionalen virtuellen Raum unter Berücksichtigung der Position und Orientierung im realen Raum überführt werden. Hierdurch wird ein mit Vermerken versehenes dreidimensionales Grafikmodell erzeugt.
-
Nachteilig an dem oben beschriebenen Verfahren ist, dass die zuvor genannten Kalibrierungspunkte zunächst händisch aufgesucht werden müssen, um den räumlichen Bezug zwischen dem wirklichen Objekt und dem virtuellen Objekt herzustellen. Dies ist umständlich und könnte zu Fehlzuordnungen führen.
-
Vor diesem Hintergrund liegt der vorliegenden Erfindung die Aufgabe zugrunde, ein Verfahren der eingangs genannten Art gleichermaßen wie ein System der eingangs genannten Art anzugeben, welche unter Umgehung der Nachteile des Standes des Technik ein bequemeres, weniger fehleranfälliges Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum ermöglichen.
-
Erfindungsgemäß wird diese Aufgabe hinsichtlich des Verfahrens mit einem gattungsgemäßen Verfahren gelöst, bei welchem lokalisierte Daten, vorzugsweise eine optische Information, insbesondere eine Fotografie des Objektes aufgenommen und anschließend das Objekt mittels eines Mustererkennungsverfahrens in der Fotografie identifiziert wird. Auf diese Weise kann erfindungsgemäß die im Stand der Technik erforderliche händische Zuordnung entfallen. Stattdessen kann im Rahmen der Erfindung eine Bildverarbeitungsroutine anhand einer Fotografie des Objektes das Objekt identifizieren, um sodann das im Allgemeinen vorhandene Konstruktionsdatenmodell in dem Raum auszurichten. Dies eröffnet verbesserte Möglichkeiten bei der Archivierung von an dem Objekt gewonnenen Untersuchungsdaten gleichermaßen wie bei der Steuerung von Bearbeitungsmaschinen. Typischerweise wird im Rahmen der Erfindung keine einzelne Fotografie des zu inspizierenden Bauteils angefertigt und zur Bauteilidentifikation genutzt. Vielmehr werden RGB-Kameras für eine fortwährende live-Aufnahme genutzt, um ein markerloses Tracking zu realisieren. Das Bauteil wird demnach permanent von den Kameras getrackt. In einem ersten Schritt werden vom Bauteil Features oder Kanten extrahiert, um mit diesen Informationen in einer Datenbank automatisiert nach dem richtigen Bauteil zu suchen. Dazu können Fotos, aber auch CAD-Daten des Bauteils hinzugezogen werden. Ist das richtige Bauteil identifiziert, kann auf das Bauteilkoordinatensystem zugegriffen werden. Die Registrierung kann mit 3D-Daten statt wie oben beschrieben mit 2D-Daten einer Tablet-Kamera erfolgen. Diese 3D-Daten können im Rahmen der Erfindung zum Beispiel mit Hilfe vom mehreren Kameras ermittelt werden.
-
In vorteilhafter Ausgestaltung des erfindungsgemäßen Verfahrens werden Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt bezogen auf den Raum messtechnisch bestimmt, wobei der Kalibrationspunkt mittels eines Bildverarbeitungsverfahrens dem zu dem identifizierten Objekt gehörenden Konstruktionsdatenmodell zugeordnet wird.
-
Besonders günstig ist es, wenn im Rahmen der Erfindung zur messtechnischen Bestimmung der Absolutkoordinaten mindestens ein Referenzpunkte aufweisendes Referenzobjekt in dem Raum platziert wird, wobei vorzugsweise Referenzabsolutkoordinaten des Referenzobjekts in dem Raum ermittelt werden. Vorzugsweise ist das Referenzobjekt als Dreieck mit Reflexionsmarkern an den Ecken ausgestaltet.
-
Um eine Kalibration zu erreichen, kann in vorteilhafter Ausgestaltung der Erfindung ein mit an bekannten Positionen angeordneten Markern versehener, insbesondere stabartiger, Gegenstand (9), vorzugsweise in allen Raumrichtungen, translatorisch bewegt und, vorzugsweise um alle Raumachsen, rotiert wird, wobei lokalisierte Daten, des Gegenstands (9) aufgenommen werden.
-
In einer vorteilhaften Ausgestaltung der Erfindung umfasst das Mustererkennungsverfahren einen Schritt des Vergleichens der lokalisierten Daten, vorzugsweise der optischen Information, insbesondere Fotografie, mit Referenzinformationen, vorzugsweise Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte. Gemäß diesem Aspekt der Erfindung werden Referenzfotografien von Objekten, beispielsweise von einzelnen Bauteilen oder Baugruppen einer komplexen Vorrichtung, die zu untersuchen bzw. zu bearbeiten sind, aufgenommen. Diese dienen dann durch Vergleich mit der Fotografie zur Identifizierung des vorliegenden Objektes, welches erfindungsgemäß den Absolutkoordinaten zugeordnet wird. Die Referenzinformationen sind im Rahmen der Erfindung in einer Datenbank hinterlegt. Sie enthalten alle Informationen, die zum Erkennen und Tracken des betrachteten Bauteils nötig sind. Dies kann im Rahmen der Erfindung featurebasiert, kantenbasiert oder durch eine ähnliche geeignete Methode erfolgen. Als Basis für die Referenzinformationen können Fotografien oder CAD-Modelle des Bauteils dienen, aus denen die erforderlichen Merkmale extrahiert werden. Gleichermaßen kann im Rahmen der Erfindung ein Vergleich von gemessenen 3D-Daten mit Referenz-3D-Daten vorgenommen werden.
-
In einer vorteilhaften Ausgestaltung der Erfindung werden die lokalisierten Daten, insbesondere optischen Referenzinformationen, vorzugsweise Referenzfotografien, aufgenommen und in einer Datenbank abrufbar gespeichert. Gemäß diesem Aspekt der Erfindung ist eine Datenbank vorhanden oder wird in einem vorbereitenden Verfahrensschritt erzeugt, welche Referenzfotografien möglicher zu bearbeitender und/oder zu untersuchender Objekte enthält. Diese Datenbank, die auch weitere Merkmale enthalten kann, beispielsweise die Daten der Konstruktionsdatenmodelle, wie zum Beispiel CAD Daten, mit all ihren Detailinformationen, kann in allen weiteren Verfahrensschritten inklusive ihrer Inhalte abrufbar sein und kann beispielsweise zur weitergehenden Informationsverarbeitung, Maßnahmenableitung, und Darstellung in einem Gerät der erweiterten Realität genutzt werden. Nach erfolgter Registrierung können auch beispielsweise die Absolutkoordinaten der zu der jeweiligen zur Referenzfotografie zugehörigen Referenzposition am realen bzw. virtuellen Objekt enthalten sein.
-
In einer vorteilhaften Ausgestaltung der Erfindung werden Untersuchungsdaten des Objektes, insbesondere Messwerte aus Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, gewonnen und dem Konstruktionsdatenmodell zugeordnet. Gemäß diesem Aspekt der Erfindung wird der zum Konstruktionsdatenmodell zugehörige Datensatz mit Untersuchungsdaten des Objektes ergänzt. Die Zuordnung dieser Untersuchungsdaten erzeugt eine zusätzliche Informationstiefe des zum realen Objekt zugehörigen virtuellen Konstruktionsdatenmodells, die Aufschluss über beispielsweise den Abnutzungs- oder Funktionszustand eines Bauteils oder einer Baugruppe einer komplexen Vorrichtung geben kann und zur Ableitung weiterer Maßnahmen genutzt werden kann. Denkbar ist im Rahmen der Erfindung auch die Erzeugung einer kompletten Bauteilhistorie des zu dem Konstruktionsdatenmodell zugehörigen Bauteils oder Baugruppe einer komplexen Vorrichtung, wobei die Historie sämtliche Ereignisse im Sinne von Reparatur- oder Instandhaltungsmaßnahmen enthalten kann. Gleichermaßen können dem Konstruktionsdatenmodell im Rahmen der Erfindung auch Annotationen zugeordnet werden.
-
In einer vorteilhaften Ausgestaltung der Erfindung werden Absolutkoordinaten des Ortes der Gewinnung der Untersuchungsdaten bestimmt. Gemäß diesem Aspekt der Erfindung findet eine genaue räumliche Zuordnung der gewonnenen Untersuchungsdaten im Sinne der Berücksichtigung der Relativkoordinaten der Untersuchung am Konstruktionsdatenmodell statt. Beispielsweise kann eine Thermografieaufnahme, welche an dem realen Objekt aufgenommen wurde, an passender Stelle dem Konstruktionsdatenmodell räumlich zugeordnet werden. Die genaue Kenntnis des räumlichen Bezugs zwischen der Gewinnung der Untersuchungsdaten und dem zugehörigen Ort am Konstruktionsdatenmodell ermöglicht eine weitreichendere und zugleich spezifischere Befundung und folgende Maßnahmenableitung.
-
In einer vorteilhaften Ausgestaltung der Erfindung werden die Untersuchungsdaten in einem Gerät der erweiterten Realität, vorzugsweise in einer AR-Brille, dargestellt. Gemäß diesem Aspekt der Erfindung sind sämtliche zuvor bereits aufgenommene und zur Verfügung gestellte in der Datenbank gespeicherte Untersuchungsdaten und Vermerke über ein Gerät der erweiterten Realität zugänglich. Bei großen Datenmengen werden nach der Erfindung eher nicht alle Daten auf dieses Gerät übertragen sondern einzeln darüber abgefragt. Ebenso kann es im Ausgestaltung der Erfindung sein, dass die Berechnung der Visualisierung außerhalb des Gerätes erfolgt, sodass dieses lediglich als Anzeigegerät ausgestaltet ist. Die Darstellbarkeit zusätzlicher Informationen mit Bezug zum realen und gegebenenfalls aber nicht ausschließlich vom Gerät der erweiterten Realität erfassten Objekt bietet Vorteile im Sinne einer allgemeinen Datenverfügbarkeit und Datendurchgängigkeit. Die im Rahmen des Gerätes der erweiterten Realität darstellbaren Informationen können beispielsweise vor Ort am realen Objekt zu treffende Entscheidungsprozesse unterstützen, oder bieten beispielsweise auch die Möglichkeit Aufgaben im Rahmen einer Abarbeitung nach einer zuvor geschehenen Maßnahmenableitung unter Berücksichtigung ebendieser Untersuchungsdaten und Vermerke abzuarbeiten.
-
In einer vorteilhaften Ausgestaltung der Erfindung wird zum messtechnischen Bestimmen der Absolutkoordinaten mindestens eine Markierung an dem Kalibrationspunkt angeordnet, deren Absolutkoordinaten von einer insbesondere ortsfest in dem Raum angeordneten, Messeinrichtung, deren Ortskoordinaten bekannt sind, bestimmt werden. Gemäß diesem Aspekt der Erfindung werden über mindestens eine an einem Kalibrationspunkt vorhandene Markierung die Absolutkoordinaten des Kalibrationspunktes messtechnisch festgestellt und für die räumliche Zuordnung der durchgeführten Untersuchung durch eine Messeinrichtung und/oder Bearbeitung des realen Objektes durch ein Werkzeug zu dem zugehörigen Ort am Konstruktionsdatenmodell benutzt. Die Ortsmesseinrichtung kann zum Beispiel mindestens einen Sensor umfassen, welcher zur Erzeugung von Bildern und/oder Videos benutzt wird, wie sie zum Beispiel in Videokameras oder Fotoapparaten enthalten sind, die zum Erfassen optischer, akustischer, elektrischer und/oder magnetischer Signale benutzt werden, wie zum Beispiel optischer Signale im sichtbaren, RGB, Bereich, oder optischer Signale im nicht-sichtbaren, IR oder UV, Bereich, akustische Signale im Hörbaren und nicht hörbaren Bereich. Die Markierung kann zum Beispiel eine Markierung sein, die sich über eine Messung im Infraroten oder Ultraviolettbereich vorteilhaft erfassen lässt.
-
In anderer vorteilhafter Ausgestaltung ist ein Kalibrationspunkt nicht erforderlich, sofern eine eindeutige räumliche Zuordnung aufgrund geometrischer Merkmale möglich ist und keine Mehrdeutigkeiten existieren (z.B. Rotation eines Zylinders). Die Messeinrichtung muss demnach im Rahmen der Erfindung nicht zwingend ortsfest sein, wenn die Relativpositionen von Objekt, Messeinrichtung und Beobachter und ggf. Werkzeug bekannt sind.
-
In einer vorteilhaften Ausgestaltung der Erfindung ist die Markierung an einem Werkzeug zur Bearbeitung des Objektes, vorzugsweise einem Handwerkzeug, und/oder an einer Messeinrichtung zur Untersuchung angeordnet. Gemäß diesem Aspekt der Erfindung lassen sich Werkzeuge zur Bearbeitung und Messeinrichtungen zur Untersuchung von Objekten über an ihnen angebrachte Markierungen, mindestens einer Markierung, räumlich erfassen und räumlich und zeitlich verfolgen, um so auch Bearbeitungs- und Untersuchungsschritte räumlich und zeitlich im Sinne eines markerbasierten Outside-In-Trackings verfolgen zu können. Dies ist vorteilhaft in Bezug auf die Zuordnung durchgeführter Bearbeitungen der Objekte durch Werkzeuge und durchgeführter Untersuchungen der Objekte durch Messeinrichtungen zu dem zugehörigen Ort am Konstruktionsdatenmodell im Sinne des Referenzierens der Arbeiten und der Untersuchungen und Zuweisen der entsprechenden Relativkoordinaten im Konstruktionsdatenmodell. Im Rahmen der Erfindung können auch Werkzeuge ohne Markierungen eingesetzt werden. Voraussetzung ist, dass die Werkzeuge sensorisch soweit erfasst werden können, dass eine Positionsbestimmung möglich ist. Üblicherweise ist das nicht der Fall, sodass eine Positionierung über Markierungen erfolgen sollte, deren Position zum Beispiel bezüglich der Werkzeugspitze bekannt ist.
-
Im Rahmen der Erfindung muss ein Objekt, welches über Reflektionsmarker getrackt wird, über eine eindeutige und individuelle Anordnung von mindestens drei Reflektionsmarkern verfügen. Dabei dürfen innerhalb dieser Anordnung keinerlei Symmetrien vorkommen. Diese Anordnung wird in die Trackingsoftware eingelernt, wodurch die Anordnung eindeutig einem Objekt zugeordnet werden kann.
-
In einer weiteren vorteilhaften Ausgestaltung der Erfindung wird das Werkzeug anhand der Absolutkoordinaten des Objektes und des Konstruktionsdatenmodells gesteuert, um das Objekt zu bearbeiten, und/oder wird die Messeinrichtung anhand der Absolutkoordinaten des Objektes und des Konstruktionsdatenmodells gesteuert, um das Objekt zu untersuchen. Gemäß diesem Aspekt der Erfindung werden sowohl Untersuchungen als auch Bearbeitungen unter Berücksichtigung der Absolutkoordinaten des Objektes im Raum und der zugehörigen Relativkoordinaten des Konstruktionsdatenmodells durchgeführt. So können ebengenau diese Untersuchungen und Bearbeitungen zuvor im Konstruktionsdatenmodell festgelegt und an Hilfssysteme, die Werkzeuge zur Bearbeitung oder Messeinrichtungen zur Untersuchung umfassen, übermittelt werden. Ein Hilfssystem kann zum Beispiel ein mobiler Armroboter sein, der mit Endeffektor und einer Ultraschall-Messeinrichtung zur Untersuchung eines Objektes ausgestattet ist, und dessen räumliche Position und Orientierung über mindestens eine Markierung messtechnisch bestimmt wird, sodass der Ort und die Orientierung des Hilfssystems als auch der Ort und die Orientierung des Werkzeuges und/oder der Messeinrichtung jederzeit messtechnisch bestimmbar ist. Die durchgeführten Untersuchungen und Bearbeitungen durch Werkzeuge und Messeinrichtungen werden ihrerseits, wie zuvor beschrieben, messtechnisch erfasst und dem zugehörigen Konstruktionsdatenmodell zugeordnet Alternativ kann das Objekt in Ausgestaltung der Erfindung auch über einen räumlich bekannten Anschlag so ausgerichtet werden, dass der Referenzpunkt nicht messtechnisch erfasst wird, sondern bereits bekannt ist. In diesem Falle ist auch die Position des Roboters zu diesem Punkt bekannt und man müsste nur noch die Position des Objektes bestimmen.
-
Die der Erfindung zugrunde liegende Aufgabe wird hinsichtlich des Systems mit einem gattungsgemäßen System gelöst, bei welchem Mittel zur Durchführung eines Mustererkennungsverfahrens vorgesehen sind. Auf diese Weise kann erfindungsgemäß die im Stand der Technik erforderliche händische Zuordnung entfallen. Stattdessen kann im Rahmen der Erfindung über Bildverarbeitungsroutinen der Kalibrationspunkt dem Konstruktionsdatenmodell zugeordnet werden. Dies eröffnet verbesserte Möglichkeiten bei der Archivierung von an dem Objekt gewonnenen Untersuchungsdaten gleichermaßen wie bei der Steuerung von Bearbeitungsmaschinen. Die Zuordnung eines Kalibrationspunktes kann im Rahmen der Erfindung auch entfallen. Im Sinne des markerlosen Trackings wird über das optisch erfasste Bauteil virtuell das dazugehörige Konstruktionsdatenmodell mit dem dazugehörigen Bauteilkoordinatensystem gelegt. Die Untersuchungsdaten werden in diesem Falle immer relativ zum so erfassten Bauteilkoordinatensystem aufgenommen.
-
Bei einer bevorzugten Ausgestaltungsform des Systems nach der Erfindung sind Verortungsmittel (7, 24, 25, 8, 37) zur messtechnischen Bestimmung von Absolutkoordinaten mindestens eines Kalibrationspunktes auf dem Objekt (2, 20) bezogen auf den Raum (1, 19) vorgesehen, wobei die Mittel zur Durchführung eines Mustererkennungsverfahrens zur Zuordnung des Kalibrationspunktes zu dem Konstruktionsdatenmodell ausgebildet sind.
-
In weiterer vorteilhafter Ausgestaltung der erfindungsgemäßen Systems umfasst es ein Referenzpunkte aufweisendes Referenzobjekt.
-
Im Rahmen der Erfindung können mit Vorteil die Verortungsmitteln zur messtechnischen Bestimmung von Absolutkoordinaten und die Mittel zur Aufnahme einer Fotografie des Objektes miteinander integriert ausgebildet sein. Entscheidend im Rahmen der Erfindung ist nicht die Aufnahme von Fotografien, sondern das markerlose Tracking. Es werden demnach erfindungsgemäß die Vorteile des markerbasierten Trackings mit den Vorteilen des markerlosen trackings kombiniert.
-
In einer vorteilhaften Ausgestaltung der Erfindung umfassen die Verortungsmittel Markierungsmittel zum Anordnen an dem Kalibrationspunkt sowie eine insbesondere ortsfest in dem Raum angeordnete Ortsmesseinrichtung, deren Ortskoordinaten bekannt sind, zur Bestimmung von Absolutkoordinaten der Markierungsmittel. Gemäß diesem Aspekt der Erfindung werden über mindestens eine an einem Kalibrationspunkt vorhandene Markierung die Absolutkoordinaten des Kalibrationspunktes messtechnisch festgestellt und für die räumliche Zuordnung der durchgeführten Untersuchung durch eine Messeinrichtung und/oder Bearbeitung des realen Objektes durch ein Werkzeug zu dem zugehörigen Ort am Konstruktionsdatenmodell benutzt. Die Ortsmesseinrichtung kann zum Beispiel mindestens einen Sensor umfassen, welcher zur Erzeugung von Bildern und/oder Videos benutzt wird, wie sie zum Beispiel in Videokameras oder Fotoapparaten enthalten sind, die zum Erfassen optischer, akustischer, elektrischer und/oder magnetischer Signale benutzt werden, wie zum Beispiel optischer Signale im sichtbaren, RGB, Bereich, oder optischer Signale im nicht-sichtbaren, IR oder UV, Bereich, akustische Signale im Hörbaren und nicht hörbaren Bereich. Die Markierung kann zum Beispiel eine Markierung sein, die sich über eine Messung im Infraroten oder Ultraviolettbereich vorteilhaft erfassen lässt.
-
In einer vorteilhaften Ausgestaltung der Erfindung ist ein Werkzeug, vorzugsweise Handwerkzeug, Werkzeug zur Bearbeitung des Objektes und/oder eine Messeinrichtung zur Untersuchung des Objektes, insbesondere für Röntgen-, Ultraschall-, Thermografie- und/oder Wirbelstrommessungen, an welchem/welcher die Markierungsmittel angeordnet sind, vorgesehen. Gemäß diesem Aspekt der Erfindung wird der zum Konstruktionsdatenmodell zugehörige Datensatz mit Untersuchungsdaten des Objektes ergänzt. Die Zuordnung dieser Untersuchungsdaten erzeugt eine zusätzliche Informationstiefe des zum realen Objekt zugehörigen virtuellen Konstruktionsdatenmodells, die Aufschluss über beispielsweise den Abnutzungs- oder Funktionszustand eines Bauteils oder einer Baugruppe einer komplexen Vorrichtung geben kann und zur Ableitung weiterer Maßnahmen genutzt werden kann. Denkbar ist hier auch eine komplette Bauteilhistorie des zu dem Konstruktionsdatenmodell zugehörigen Bauteils oder Baugruppe einer komplexen Vorrichtung, wobei die Historie sämtliche Ereignisse im Sinne von Reparatur- oder Instandhaltungsmaßnahmen enthalten kann.
-
In einer vorteilhaften Ausgestaltung der Erfindung ist eine Datenbank vorgesehen, in welcher lokalisierte Daten, vorzugsweise optische Referenzinformationen, insbesondere Referenzfotografien, einer Anzahl möglicher zu bearbeitender und/oder zu untersuchender Objekte abrufbar speicherbar sind, wobei jeden lokalisierten Daten ein zu dem identifizierten Objekt gehörendes Konstruktionsdatenmodell zugeordnet und vorzugsweise in der Datenbank gespeichert ist. Gemäß diesem Aspekt der Erfindung ist eine Datenbank vorhanden oder wird in einem vorbereitenden Verfahrensschritt erzeugt, welche Referenzfotografien möglicher zu bearbeitender und/oder zu untersuchender Objekte enthält. Diese Datenbank, die auch weitere Merkmale enthalten kann, beispielsweise die Daten der Konstruktionsdatenmodelle, wie zum Beispiel CAD Daten, mit all ihren Detailinformationen, kann in allen weiteren Verfahrensschritten inklusive ihrer Inhalte abrufbar sein und kann beispielsweise zur weitergehenden Informationsverarbeitung, Maßnahmenableitung, und Darstellung in einem Gerät der erweiterten Realität genutzt werden. Nach erfolgter Registrierung können auch beispielsweise die Absolutkoordinaten der zu der jeweiligen zur Referenzfotografie zugehörigen Referenzposition am realen bzw. virtuellen Objekt enthalten sein.
-
In einer vorteilhaften Ausgestaltung der Erfindung sind Darstellungsmittel, vorzugsweise eine AR-Brille, zur Darstellung mit der Messeinrichtung gewonnener Untersuchungsdaten vorgesehen. Gemäß diesem Aspekt der Erfindung sind sämtliche zuvor bereits aufgenommene und zur Verfügung gestellte in der Datenbank gespeicherte Untersuchungsdaten und Vermerke für die Darstellung in einem Gerät der erweiterten Realität verfügbar. Die Darstellbarkeit zusätzlicher Informationen mit Bezug zum realen und gegebenenfalls aber nicht ausschließlich vom Gerät der erweiterten Realität erfassten Objekt bietet Vorteile im Sinne einer allgemeinen Datenverfügbarkeit und Datendurchgängigkeit. Die im Rahmen des Gerätes der erweiterten Realität darstellbaren Informationen können beispielsweise vor Ort am realen Objekt zu treffende Entscheidungsprozesse unterstützen, oder bieten beispielsweise auch die Möglichkeit Aufgaben im Rahmen einer Abarbeitung nach einer zuvor geschehenen Maßnahmenableitung unter Berücksichtigung ebendieser Untersuchungsdaten und Vermerke abzuarbeiten.
-
In einer vorteilhaften Ausgestaltung der Erfindung sind an den Darstellungsmitteln die Markierungsmittel angeordnet. Gemäß diesem Aspekt der Erfindung kann die Position und Orientierung der Darstellungsmittel durch eine Messeinrichtung, deren Ortskoordinaten bekannt sind, bestimmt werden. Durch die Bestimmung der Position und der Orientierung der Darstellungseinrichtung können die dargestellten Informationen, beispielsweise der erweiterten Realität, unter Berücksichtigung des Bezuges der Darstellungseinrichtung zum referenzierten Objekt, deckungsgleich mit dem über einen visuellen Sensor aufgenommenen Bild des realen Objektes im Sinne eines Inside-Out-Trackings dargestellt werden.
-
In einer vorteilhaften Ausgestaltung des Systems gemäß der Erfindung ist es zur Durchführung eines Verfahrens nach einem der Ansprüche 1 bis 9 ausgebildet.
-
Die Erfindung wird in einer bevorzugten Ausführungsform unter Bezugnahme auf eine Zeichnung beispielhaft beschrieben, wobei weitere vorteilhafte Einzelheiten den Figuren der Zeichnung zu entnehmen sind.
-
Funktionsmäßig gleiche Teile sind dabei mit denselben Bezugszeichen versehen.
-
Die Figuren der Zeichnung zeigen im Einzelnen:
- 1: Eine schematische Darstellung einer ersten Ausführungsform des erfindungsgemäßen Systems und eines zu untersuchenden Objektes in einem Raum, zur Veranschaulichung einer ersten Ausführungsform des erfindungsgemäßen Verfahrens;
- 2: Eine schematische Darstellung einer zweiten Ausführungsform des erfindungsgemäßen Systems und eines zu bearbeitenden Objektes in einem Raum, zur Veranschaulichung einer zweiten Ausführungsform des erfindungsgemäßen Verfahrens;
- 3: Fließschema zur Veranschaulichung der Durchführung einer bevorzugten Ausgestaltung des erfindungsgemäßen Verfahrens;
- 4: eine schematische Darstellung entsprechend 1 zur Veranschaulichung eines Kalibriervorgangs im Rahmen des erfindungsgemäßen Verfahrens.
-
Die 1 zeigt zur Veranschaulichung einer ersten Ausführungsform des erfindungsgemäßen Verfahrens einen Raum 1, in welchem ein System nach der Erfindung zum Registrieren einer zu untersuchenden Turbinenschaufel 2 vorhanden ist. Das System umfasst an Seitenwänden 3, 4 und an der Rückwand 11 des Raumes 1 jeweils eine Kamera 5, 6, sowie an einer Rückwand 11 eine Kamera 7, deren Ortskoordinaten jeweils bekannt sind, zum markerlosen Tracking, und an der Rückwand 11 eine Kamera 65, deren Ortskoordinaten bekannt sind, zum markerbasierten Tracking. Die Kamera 65 ist ortsfest montiert und als IR Sensorsystem zum markerbasierten Tracking ausgestaltet. Ferner umfasst das System ein mit Markern 8 versehenes Handwerkzeug 9 zum Setzen einer Markierung 10 an der Turbinenschaufel 2. Weiterhin ist an der Rückwand 11 des Raumes 1 ein Computerbildschirm 12 angebracht, welcher mit mindestens einer Datenbank 13 verbunden ist, sodass auf dem Computerbildschirm 12 eine virtuelle Bauteilkopie 14 angezeigt werden kann, und welcher ebenfalls die virtuelle Markierung 10, die zuvor mit dem Handwerkzeug 9 auf die zu untersuchende Turbinenschaufel 2 gesetzt wurde, darstellen kann. Der Benutzer 15 kann zusätzlich über Eingabegeräte 16, 17 Vermerke 18 an der virtuellen Bauteilkopie 14 der Turbinenschaufel 2 hinzufügen.
-
Die 2 zeigt zur Veranschaulichung einer zweiten Ausführungsform des erfindungsgemäßen Verfahrens einen Raum 19, in welchem ein System nach der Erfindung zum Registrieren einer zu bearbeitenden Landeklappe 20 vorhanden ist. Das System umfasst eine abgehängte Deckenkonstruktion 21, an der ortsfest montierte Kameras 22, 23, 24, 25 zum markerlosen Tracking, sowie ortsfest montierte IR Sensoren 26, 27, 28, 29 zum markerbasierten Tracking mittels IR Markern montiert sind. Mit Hilfe der IR Sensoren 26, 27, 28, 29 kann Ort und Positionierung eines mit IR Markern 30 versehenen mobilen Armroboters bestimmt werden. Der mobile Armroboter 30 verfügt über einen Endeffektor 32 mit einem Bearbeitungswerkzeug 33. Eine Arbeitskraft 34, die mit einer AR-Brille 35, die über eine Markierung 42 verfügt, und einem Handwerkzeug 36, welches mit einem Marker 37 versehen ist, ausgestattet ist, setzt auf dem zu bearbeitenden und auf einer Arbeitsplattform 40 liegenden Landeklappe 20 eine Markierung 38. Der Ort der Markierung 38 auf der zu bearbeitenden Landeklappe 20 wird mittels des Markers 37 am Handwerkzeug 36 der Arbeitskraft 34 über die auf der Deckenkonstruktion 21 montierten Kameras 24, 25, 26, 27, 28, 29, deren Ortskoordinaten bekannt sind, für markerbasiertes Tracking registriert und in der entsprechenden virtuellen Bauteilkopie, die in einer Datenbank 39 gespeichert ist, vermerkt. Mittels der AR-Brille 35 werden zusätzliche Bauteilinformationen aus der Datenbank 39 für die Arbeitskraft sichtbar dargestellt. Unter Zuhilfenahme der AR-Brille können Markierungen 38 am der zu bearbeitenden Landeklappe 20 zusammen mit Ausführungsbefehlen und Bauteilinformationen aus der Datenbank 39 mittels einer Datenverbindung 41 an den mobilen Armroboter 30 übermittelt werden, sodass der mobile Armroboter 30 mit einem Bearbeitungswerkzeug 33 einen Arbeitsschritt an der Landeklappe 20 durchführen kann.
-
Die 3 zeigt zur Veranschaulichung einer möglichen Ausführungsform des erfindungsgemäßen Verfahrens ein Fließschema. In einem ersten Vorbereitungsschritt 43 werden vorbereitende Maßnahmen getroffen, beispielsweise das Erzeugen einer Referenzfotografien enthaltenden Datenbank gemäß der Ansprüche 3 und 13. Nachfolgend werden gleichgestellt Verfahren zum markerbasierten Tracken 44 von mit Markern versehenen Hilfssystemen eingesetzt, als auch Verfahren zum markerlosen Tracken 45 von markierungslosen Bauteilen. Markierungen aufweisende Hilfssysteme sind beispielsweise ein Mobiler Roboter 46, eine AR-Brille 47 und ein Markierungssystem 48, wie beispielsweise eine an einem Handwerkzeug 9, 36 angebrachte Markierung 8, 37. Dem Verfahren zum Tracken 45 von markierungslosen Bauteilen zugehörig sind Verfahren zur optischen Bauteilerkennung 49, Bauteilidentifizierung 50 und ein Verfahren zum Datenbankabgleich 51 zwecks des Erhaltens eines lokalen Koordinatensystems 52 des identifizierten Bauteils 2, 20.
-
Die in der Vorbereitung aufgeführten Verfahrensschritte werden nachfolgend benutzt, um zueinander in Bezug stehende weitere Prozessschritte, wie sie nachfolgend beispielhaft aufgeführt sind, durchzuführen.
-
Eine Arbeitskraft 34 führt eine visuelle Inspektion und Schadensmarkierung 53 durch. Das Setzen der Markierung 10, 38 sowie gegebenenfalls ein zusätzlicher Vermerk 18 werden über Kameras für markerbasiertes Tracking 65, 24, 25, deren Ortskoordinaten bekannt sind, erfasst, ausgewertet und mit räumlichem Bezug zum Bauteil 2, 20, insbesondere in dem Konstruktionsdatenmodell, gespeichert 54.
-
Diesem Schritt schließt sich ein weiterer Verfahrensschritt an, in welchem die Übermittlung eines Ausführungsbefehls 55, beispielsweise unter Zuhilfenahme einer mit Markierungen 38 versehenen AR-Brille 35 und eines Vermerks 18, an einen Roboter 30 mittels Datenverbindung 41 folgt. Der mobile Roboter 30 wird zum zu untersuchenden oder zu bearbeitenden Bauteil 2, 20 gesteuert, wo dieser an der markierten Stelle 10, 38 eine Untersuchung oder Bearbeitung durchführt 56. Die Untersuchungsdaten oder Daten der Bearbeitung des Bauteils 2, 20 werden mit Bauteilbezug in einer Datenbank 39 gespeichert 57.
-
In einem vorletzten und letzten Verfahrensschritt können die gewonnenen Inspektionsdaten der Untersuchung durch automatische Bearbeitungsroutinen analysiert werden 58 und nachfolgend oder direkt mittels einer AR-Brille 35 visualisiert werden 59.
-
Die 4 zeigt zur Veranschaulichung des erfindungsgemäßen Kalibriervorgangs den Raum 1 gemäß 1, in welchem ein System nach der Erfindung vorhanden ist. Wie bereits im Zusammenhang mit 1 erläutert, umfasst das System an Seitenwänden 3,4 des Raums 1 jeweils eine ortsfest montierte Kamera 5, 6 zum markerlosen Tracking, an einer Rückwand 11 eine ortsfest montierte Kamera 7 zum markerbasierten Tracking , sowie ein mit Markern 8 versehenes Handwerkzeug 9. Weiterhin ist an der Rückwand 11 des Raumes 1 ein Computerbildschirm 12 angebracht. Der Computerbildschirm 12 ist mit mindestens einer Datenbank 13 verbunden. Ebenfalls zu erkennen sind in der 4 eine Tastatur 17 sowie eine Maus 16 als Eingabegeräte. Ferner ist in der 4 ein Kalibrationsdreieck 60 zu erkennen. Das Kalibrationsdreieck 60 ist an den Ecken jeweils mit einem Reflexionsmarker 61, 62, 63 versehen. Die Reflexionsmarker 61, 62, 63 des Kalbrationsdreiecks 60 dienen zur Kalibration der Kamera 65 für markerbasiertes Tracking. Das Prinzip der Kalibration beruht dabei darauf, dass das Kalibrationsdreieck 60 bekannte Abmessungen hat und dass die Reflexionsmarker 61, 62, 63 auf dem Kalibrationsdreieck 60 auf dem Kalibrationsdreieck 60 an bekannten Positionen in Bezug auf das Kalibrationsdreieck 60 sowie in Bezug zu den jeweils anderen Reflexionsmarkern angeordnet sind. Im Rahmen der Erfindung wird das Kalibrationsdreieck 60 so platziert, dass es sowohl von der Kamera 65 für markerbasiertes Tracking als auch von den Kameras 5, 6, 7 für markerloses Tracking erfasst werden kann. Somit kann im Rahmen der Erfindung mithilfe des Kalibrationsdreieck 60 eine Kalibration der Kameras 5, 6, 7 für markerloses Tracking gleichermaßen wie der Kamera 65 für markerbasiertes Tracking vorgenommen werden. Dabei werden aufgrund der bekannten Abmessungen sowie der bekannten absoluten wie relativen Positionen der Reflexionsmarker 61, 62, 63 des Kalibrationsdreieck 60 Koordinatensysteme für markerbasiertes Tracking gleichermaßen wie Koordinatensysteme für markerbasiertes Tracking erfasst und können zueinander in Bezug gebracht werden. Um im Rahmen der Erfindung eine Skalierung der Kameras 5, 6, 7, 65 zu erreichen, wird das Handwerkzeug 9, was als Stab ausgeformt ist, mit den daran in bekannten Positionen angeordneten Markern 8 entlang einer Trajektorie 64, welche in der Figur durch gestrichelte Linien angezeigt ist, bewegt. Die Trajektorie 64 ist im Rahmen der Erfindung so gewählt, dass das als Stab ausgeformte Handwerkzeug 9 mit den Markern 8 in Erfassungsfeld der Kameras 5, 6, 7, 65 in allen Raumrichtungen translatorisch bewegt wird als auch um alle Achsen rotiert wird, d.h. das Handwerkzeug 9 wird nach oben, nach unten nach links, nach rechts, nach vorne und nach hinten bewegt und sowohl um die vertikale Achse als auch um die horizontale Achse rotiert. Dies ist bei der in 4 beispielhaft gezeigten Trajektorie 64 der Fall.
-
Die Präzision der Kalibration verbessert sich gemäß der Erfindung, wenn die Ausdehnung der Trajektorie 64 im Raum 1 vergrößert wird. Die Bewegung entlang der Trajektorie 64 sollte zudem kontinuierlich erfolgen. Somit sind im Rahmen der Erfindung ein Verfahren und ein System vorgeschlagen, welche unter Umgehung der Nachteile des Standes des Technik ein bequemeres, weniger fehleranfälliges Registrieren eines Relativkoordinaten eines zu bearbeitenden und/oder zu untersuchenden Objektes enthaltenden Konstruktionsdatenmodells in einem Raum ermöglichen.
-
Bezugszeichenliste
-
- 1
- Raum
- 2
- Zu untersuchende Turbinenschaufel
- 3
- Seitenwand
- 4
- Seitenwand
- 5
- Kamera für markerloses Tracking
- 6
- Kamera für markerloses Tracking
- 7
- Kamera für markerloses Tracking
- 8
- IR-Marker
- 9
- Handwerkzeug
- 10
- Markierung
- 11
- Rückwand
- 12
- Computerbildschirm
- 13
- Datenbank
- 14
- Virtuelle Bauteilkopie
- 15
- Benutzer
- 16
- Eingabegerät
- 17
- Eingabegerät
- 18
- Vermerk
- 19
- Raum
- 20
- Zu bearbeitende Landeklappe
- 21
- Deckenkonstruktion
- 22
- Kamera für markerloses Tracking
- 23
- Kamera für markerloses Tracking
- 24
- Kamera für markerloses Tracking
- 25
- Kamera für markerloses Tracking
- 26
- IR Sensor für markerbasiertes Tracking
- 27
- IR Sensor für markerbasiertes Tracking
- 28
- IR Sensor für markerbasiertes Tracking
- 29
- IR Sensor für markerbasiertes Tracking
- 30
- mobiler Armroboter
- 31
- IR Marker
- 32
- Endeffektor
- 33
- Bearbeitungswerkzeug
- 34
- Arbeitskraft
- 35
- AR-Brille
- 36
- Handwerkzeug
- 37
- Marker
- 38
- Markierung
- 39
- Datenbank
- 40
- Arbeitsplattform
- 41
- Datenverbindung
- 42
- Markierung
- 43
- Vorbereitungsschritt
- 44
- Tracken von mit Markern versehenen Hilfssystemen
- 45
- Tracken von markierungsfreien Bauteilen
- 46
- Mobiler Roboter
- 47
- AR-Brille
- 48
- Markierungssystem
- 49
- Bauteilerkennung
- 50
- Bauteilidentifizierung
- 51
- Datenbankabgleich
- 52
- Lokales Koordinatensystem
- 53
- Visuelle Inspektion und Schadensmarkierung
- 54
- Speichern der Annotation mit Bezug zum Bauteil
- 55
- Übermittlung eines Ausführungsbefehls an einen Roboter
- 56
- Mobiler Roboter 30 wird zum zu untersuchenden Bauteil gesteuert und führt Untersuchung oder Bearbeitung durch
- 57
- Speichern der Inspektionsdaten mit Bauteilbezug
- 58
- Automatische Analyse der Inspektionsdaten
- 59
- Prüfdatenvisualisierung mittels AR-Brille
- 60
- Kalibrationsdreieck
- 61
- Reflexionsmarker
- 62
- Reflexionsmarker
- 63
- Reflexionsmarker
- 64
- Trajektorie
- 65
- Kamerasystem für markerbasiertes Tracking
-
ZITATE ENTHALTEN IN DER BESCHREIBUNG
-
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
-
Zitierte Patentliteratur
-
- US 2015/0062123 A1 [0003, 0004]