DE102016109628A1 - Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera - Google Patents

Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera Download PDF

Info

Publication number
DE102016109628A1
DE102016109628A1 DE102016109628.8A DE102016109628A DE102016109628A1 DE 102016109628 A1 DE102016109628 A1 DE 102016109628A1 DE 102016109628 A DE102016109628 A DE 102016109628A DE 102016109628 A1 DE102016109628 A1 DE 102016109628A1
Authority
DE
Germany
Prior art keywords
thermal
image
thermal image
orientation
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102016109628.8A
Other languages
English (en)
Inventor
Michael Witych
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Deutsche Telekom AG
Original Assignee
Deutsche Telekom AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Deutsche Telekom AG filed Critical Deutsche Telekom AG
Priority to DE102016109628.8A priority Critical patent/DE102016109628A1/de
Publication of DE102016109628A1 publication Critical patent/DE102016109628A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Radiation Pyrometers (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung (10) mit Hilfe einer Wärmebildkamera (70).
Hierzu werden mehrere Referenzwärmebilder hinsichtlich wenigstens eines Objekts bereitgestellt, wobei jedem Referenzwärmebild Positions- und/oder Orientierungsinformationen zugeordnet werden. Die Referenzwärmebilder werden jeweils mit einem Wärmebild, welches aktuell von einer, einer mobilen elektronischen Einrichtung (10) zugeordneten Wärmebildkamera (70) aufgenommen worden ist, auf Übereinstimmung verglichen, wobei bei einer festgestellten Übereinstimmung mit einem der Referenzwärmebilder die Positions- und/oder Orientierungsinformationen, die diesem Referenzwärmebild zugeordnet worden sind, beispielsweise unmittelbar oder mittelbar als die Position und/oder die Orientierung der mobilen elektronischen Einrichtung verwendet werden.

Description

  • Die Erfindung betrifft ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung, insbesondere eines Mobilfunktelefons, mit Hilfe einer digitalen Wärmebildkamera.
  • Smartphones mit integrierter oder aufsteckbarer Wärmebildkamera sind bekannt (siehe zum Beispiel die Webseiten: www.areamobile.de/news/36787-cat-s60 und www.heise.de/newsticker/meldung/hands-on).
  • Der vorliegenden Erfindung liegt die Aufgabe zugrunde, ein neuartiges Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung zur Verfügung zu stellen.
  • Ein Kerngedanke der Erfindung kann darin gesehen werden, vorzugsweise mehrere Referenzwärmebilder hinsichtlich wenigstens eines Objekts bereitzustellen, wobei jedem Referenzwärmebild Positions- und/oder Orientierungsinformationen zugeordnet sind. Die Referenzwärmebilder können real mit einer physikalischen Wärmebildkamera aufgenommen, oder mittels einer Rechnersimulation berechnet werden. Die Positions- und/oder Orientierungsinformationen sind der Wärmebildkamera, mit der die Referenzwärmebilder real aufgenommen worden sind, oder einer virtuellen Wärmebildkamera, die bei einer Rechnersimulation der Referenzwärmebilder zugrunde gelegt wird, zugeordnet. Eine virtuelle Wärmebildkamera wird durch ein mathematisches Modell, insbesondere dem Modell einer Lochbildkamera, beschrieben.
  • Die Referenzwärmebilder, ob real aufgenommen oder simuliert, werden mit einem Wärmebild, welches aktuell von einer, einer mobilen elektronischen Einrichtung zugeordneten Wärmebildkamera aufgenommen worden ist, auf Übereinstimmung verglichen. Bei einer festgestellten Übereinstimmung mit einem der Referenzwärmebilder werden die Positions- und/oder Orientierungsinformationen, die diesem Referenzwärmebild zugeordnet worden sind, beispielsweise unmittelbar oder mittelbar als die Position und/oder die Orientierung der mobilen elektronischen Einrichtung verwendet. Mittelbar bedeutet, dass die Positions- und/oder Orientierungsinformationen, die diesem Referenzwärmebild zugeordnet worden sind, bei einer Berechnung der Position und/oder Orientierung der mobilen elektronischen Einrichtung mitberücksichtigt werden.
  • Das oben genannte technische Problem wird durch die Verfahrensschritte des Anspruchs 1 gelöst.
  • Danach wird ein Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera zur Verfügung gestellt, welches folgende Schritte aufweist:
    • a) Aufnehmen, mit einer digitalen Wärmebildkamera, die einer mobilen elektronischen Einrichtung zugeordnet ist, eines Wärmebilds eines Objekts;
    • b) Bereitstellen für wenigstens ein vorbestimmtes Objekt wenigstens ein Referenzwärmebild, dem eine Position und/oder eine Orientierung zugeordnet sind;
    • c) Prüfen in Abhängigkeit von einem Übereinstimmungskriterium, ob das in Schritt a) aufgenommene Wärmebild mit dem wenigstens einen in Schritt b) bereitgestellten Referenzwärmebild übereinstimmt;
    • d) Auswählen des wenigstens einen Referenzwärmebildes, wenn in Schritt c) eine Übereinstimmung zwischen dem in Schritt a) aufgenommenen Wärmebild und dem wenigstens einen in Schritt b) bereitgestellten Referenzwärmebild festgestellt worden ist; und
    • e) Bestimmen der Position und/oder Orientierung der mobilen elektronischen Einrichtung in Abhängigkeit von der Position und/oder der Orientierung, die dem in Schritt d) ausgewählten Referenzwärmebild zugeordnet sind.
  • Angemerkt sei, dass mit Orientierung vorzugsweise die äußere und/oder innere Orientierung der der mobilen elektronischen Einrichtung zugeordneten Wärmebildkamera gemeint ist. Die Begriffe „äußere und innere Orientierung“ sind aus der Photogrammetrie bekannt. Erläutert werden sie beispielsweise in dem Fachbuch „Photogrammetrie, Grundlagen, Verfahren, Anwendungen", von K. Schwidedfsky et al., 7. Auflage des „Grundriß der Photogrammetrie", 1976, B. G. Teubner Stuttgart. Eine Bildkoordinatenachsenskalierung durch die Pixelgröße oder durch die Bauart eines digitalen Flächensensors können bei der inneren Orientierung der Wärmebildkamera mit enthalten sein. Weiterhin sei angemerkt, dass eine Position vorzugsweise durch die Koordinaten eines vorgegebenen 3D-Koordinatensystem beschrieben wird.
  • Vorteilhafterweise wird, wenn in Schritt d) mehrere Referenzwärmebilder ausgewählt worden sind, schließlich dasjenige Referenzwärmebild ausgewählt wird, welches am besten mit dem in Schritt a) aufgenommenen Wärmebild übereinstimmt.
  • An dieser Stelle sei erwähnt, dass in Schritt a) eine mobile elektronische Einrichtung miterfasst wird, an die eine externe digitale Wärmebildkamera anschließbar ist, oder die eine integrierte digitale Wärmebildkamera aufweist.
  • Angemerkt sei ferner, dass die zeitliche Reihenfolge der beiden Schritte a) und b) auch vertauscht werden kann.
  • Bei der mobilen elektronischen Einrichtung handelt es sich vorzugsweise um ein Mobilfunktelefon, insbesondere um ein Smartphone. Die mobile elektronische Einrichtung kann aber auch in einem Fahrzeug montiert sein.
  • Als ein mögliches Übereinstimmungskriterium kann das Über- oder Unterschreiten eines vorgegebenen Schwellenwertes dienen, welches von einem in Schritt c) angewandten Prüfalgorithmus abhängt. Wird beispielsweise ein Korrelationsverfahren angewandt, kann ein Schwellenwert, der kleiner als 1, z.B. 0,9 ist, vorgegeben werden, bei dessen Überschreitung eine Übereinstimmung zwischen dem in Schritt a) aufgenommenen Wärmebild und dem wenigstens einen in Schritt b) bereitgestellten Referenzwärmebild angenommen wird.
  • Die Differenzwerte zwischen jeweils einem Temperaturwert des in Schritt a) aufgenommenen Wärmebildes und jeweils einem Temperaturwert eines korrespondierenden geometrischen Punktes des wenigstens einen Referenzwärmebildes bestimmen somit zum einen die Entscheidung über die Übereinstimmung von Punkten und/oder zum anderen die Genauigkeit der Bestimmung der Position und/oder Orientierung des aktuell aufgenommenen Wärmebildes.
  • Auf diese Weise wird statistisch bestimmt, wann ein aufgenommenes Wärmebild mit einem Referenzwärmebild als übereinstimmend erkannt wird.
  • Eine Möglichkeit, Referenzwärmebilder bereitzustellen, besteht darin, dass Schritt b) folgende Schritte umfasst:
    • – Aufrufen, insbesondere von einer Recheneinheit, wenigstens eines in einer Speichereinrichtung abgelegten geometrischen Modells, welches die Oberfläche des wenigstens einen vorbestimmten Objekts wenigstens abschnittsweise beschreibt;
    • – Berechnen wenigstens eines Referenzwärmebilds für das wenigstens eine vorbestimmte Objekt unter Verwendung des aufgerufenen geometrischen Modells.
  • Das hierzu notwendige mathematische Rüstzeug ist dem Fachmann zum Beispiel aus der darstellenden Geometrie, der Radiometrie und dem oben zitierten Fachbuch bekannt. Insbesondere sind geometrisch-konstruktive Verfahren bekannt, um dreidimensionale Objekte auf eine zweidimensionale Bildebene projizieren zu können. Die erwähnte darstellende Geometrie dient als Grundlage, um auch computergestützt mittels geometrischer Modellierung und der Abbildungsgleichungen der Zentralprojektion 3D-Objekte auf eine zweidimensionale Darstellungsebene zu projizieren. Ein weiteres bekanntes mathematisches Rüstzeug bildet die Riemannsche Geometrie, mit der auch gekrümmte Oberflächen und Elemente auf der Oberfläche eines dreidimensionales Objekts beschrieben werden können.
  • Um ein Referenzwärmebild, d.h. die farbliche Darstellung einer Temperaturverteilung auf einer modellierten Objektfläche berechnen zu können, können die Gleichungen aus der Radiometrie verwendet werden, mit denen vorzugsweise für jeden modellierten Objekt-Oberflächenpunkt eine Temperatur bzw. Farbe berechnet werden kann.
  • Das wenigstens eine Referenzwärmebild wird zweckmäßigerweise in Abhängigkeit von mehreren Parametern berechnet. Bei den Parametern kann es sich um Zeitinformationen, zum Beispiel die aktuelle Tageszeit und/oder die Jahreszeit handeln. Ein weiterer Parameter kann aktuelle oder ältere Wetterinformationen umfassen, die zum Beispiel von einer externen Datenbank abrufbar sind. Als Parameter können auch objektraumbezogene Temperaturinformationen dienen, die mit lokalen Temperatursensoren oder einem Temperatursensor der mobilen elektronischen Einrichtung erfasst werden können. Weitere Parameter können Informationen über die Materialeigenschaften der Oberfläche des vorbestimmten Objekts, über die Orientierung und/oder über die Position einer virtuellen Wärmebildkamera enthalten, die bei der Berechnung des wenigstens einen Referenzwärmebildes mathematisch zugrunde gelegt wird.
  • Bei den Parametern kann es sich auch um eine fest vorgegebene Brennweite eines virtuellen oder realen Objekts und/oder um Verzeichnungsparameter handeln, die zur Korrektur bei der Berechnung von Referenzwärmebilder verwendet werden können. Eine solche Korrektur der Referenzwärmebilder und/oder des aktuell aufgenommenen Wärmebilds ist zum Beispiel dann sinnvoll, wenn die in Schritt a) verwendete Wärmebildkamera und die Wärmebildkamera zur realen Aufnahme von Referenzwärmebilder bzw. die virtuelle Wärmebildkamera, die bei der Berechnung von simulierten Referenzwärmebilder zugrunde gelegt wird, unterschiedliche Brennweiten und/oder Verzeichnungsparameter und/oder Pixelskalierungen des Bildsensors aufweisen.
  • Die Position und/oder Orientierung der virtuellen Wärmebildkamera sind somit lediglich veränderbare Eingangsvariable für einen Algorithmus zur Berechnung eines Referenzwärmebildes hinsichtlich eines geometrischen Modells bzw. eines modellierten Objekts, welches das wenigstens eine vorbestimmte Objekt beschreibt.
  • Bei dem Parameter kann es sich auch um den Aufnahmezeitpunkt handeln, der in Schritt a) bestimmt wird, wobei dann in Schritt b) das wenigstens eine Referenzwärmebild für das wenigstens eine vorbestimmte Objekt für diesen Aufnahmezeitpunkt berechnet wird. Die Änderung des Aufnahmezeitpunkt für die Referenzwärmebild Simulation würde im Bildraum i.d.R. die Farbgebung einiger Bildpunkte ändern. Die geometrischen Durchstoßpunkte der Objektraumstrahlen durch das Projektionszentrum in den Bildraum bleiben davon aber unverändert.
  • Bei der Simulation von Referenzwärmebildern werden vorzugsweise die vorbestimmten Parameter in einen bekannten Abbildungsalgorithmus, der unter anderem die Abbildungsgleichungen der Zentralprojektion verwendet, eingegeben, um eine Temperatur- bzw. Farbverteilung, d.h. ein Referenzwärmebild von der Oberfläche des wenigstens einen modellierten vorbestimmten Objekts zu berechnen.
  • Angemerkt sei an dieser Stelle, dass die Recheneinheit und/oder die Speichereinrichtung integraler Bestandteil der mobilen elektronischen Einrichtung oder einer externen, d.h. von der mobilen elektronischen Einrichtung physikalisch getrennten Rechnereinrichtung sein können, welche dann mit der mobilen elektronischen mobilen Einrichtung Daten austauschen kann.
  • Eine alternative Möglichkeit, Referenzwärmebilder bereitzustellen, kann darin gesehen werden, vorab wenigstens ein Referenzwärmebild mit einer Wärmebildkamera aufzunehmen, deren Positionskoordinaten und/oder Orientierung zum Zeitpunkt der Aufnahme des wenigstens einen Referenzwärmebildes bekannt sind.
  • Hierzu enthält Schritt b) folgende Schritte: Auslesen, aus einer Speichereinrichtung, wenigstens eines Referenzwärmebildes, welches zuvor von einer Wärmebildkamera aufgenommen und zusammen mit der der Wärmebildkamera zum Aufnahmezeitpunkt des wenigstens einen Referenzwärmebildes zugeordneten Position und/oder Orientierung in der Speichereinrichtung abgelegt worden ist.
  • Vorzugsweise wird die Position und/oder Orientierung der Wärmebildkamera für den Zeitpunkt bestimmt, zudem das wenigstens eine Referenzwärmebild von dem bestimmten Objekt aufgenommen worden ist. Auf diese Weise können einem aufgenommenen Referenzwärmebild präzise Positions- und/oder Orientierungsinformationen zugeordnet werden.
  • An dieser Stelle sei erwähnt, dass es sich bei der Wärmebildkamera um die der mobilen elektronischen Einrichtung zugeordneten Wärmebildkamera oder um eine separate Wärmebildkamera handeln kann.
  • Um den Energieverbrauch und/oder die Rechnerleistung der mobilen elektronischen Einrichtung zu reduzieren, wird das in Schritt a) aufgenommene Wärmebild zu einer von der mobilen elektronischen Einrichtung physikalisch getrennten Rechnereinrichtung übertragen, wobei die Schritte b) bis e) von der Rechnereinrichtung ausgeführt werden können.
  • Gemäß einer alternativen Ausführungsvariante kann wenigstens einer der Schritte b) bis e) von der mobilen elektronischen Einrichtung ausgeführt werden.
  • Um die Position und/oder Orientierung der mobilen elektronischen Einrichtung robuster und/oder präziser berechnen zu können, kann in Schritt a) aus dem aufgenommenen Wärmebild ein Wärmebildausschnitt und in Schritt b) aus dem wenigstens einen bereitgestellten Referenzwärmebild ein Referenzwärmebildausschnitt ausgewählt werden, wobei in Schritt c) in Abhängigkeit von den definierten Übereinstimmungskriterien geprüft wird, ob der in Schritt a) ausgewählte Wärmebildausschnitt mit dem wenigstens einen in Schritt b) ausgewählten Referenzwärmebildausschnitt übereinstimmt.
  • Die Erfindung wird nachfolgend anhand eines Ausführungsbeispiels in Verbindung mit den beiliegenden Zeichnungen näher erläutert. Es zeigen:
  • 1 ein beispielhaftes Kommunikationssystem, welches ein Mobilfunktelefon mit einer integrierten Wärmebildkamera aufweist,
  • 2 eine Hauswand mit zwei Fenstern als ein vorbestimmtes Objekt in einem vorgegebenen Objektraum.
  • 1 zeigt als eine beispielhafte Anwendung den Ausschnitt eines beispielhaften Kommunikationssystems 1, welches ein Smartphone 10 als eine mobile elektronische Einrichtung, eine externe Rechnereinrichtung 140 in Form eines Servers und eine externe Datenbank 180 aufweisen kann. Das Smartphone 10, die Datenbank 180 und die Rechnereinrichtung 140 können über ein IP-Netz, beispielsweise das Internet 190 kommunizieren.
  • Der Server 140 kann eine Steuereinheit 150, die zum Beispiel als Mikroprozessor oder Mikrokontroller ausgebildet ist, aufweisen. Ferner kann der Server 140 einen Datenspeicher 160 und einen Programmspeicher 170 enthalten, in dem die Anweisungen zur Steuerung und Überwachung des Servers 140 hinterlegt sind. Wie nachfolgend noch näher erläutert wird, kann der Server 140 einige Verfahrensschritte zum Bestimmen der Position und/oder der Orientierung des Smartphones 10 in Verbindung mit dem Smartphone 10 ausführen.
  • Das Smartphone 10 kann einen Zeitgeber 40 enthalten, der die aktuelle Uhrzeit und/oder das aktuelle Datum angeben kann. Auf diese Weise kann der Zeitpunkt und die Jahreszeit der Aufnahme eines Wärmebildes erfasst werden.
  • Das Smartphone 10 kann über eine drahtlose Kommunikationsschnittstelle 130 beispielsweise auf das Internet 190 zugreifen. Das Smartphone 10 kann dazu ausgebildet sein, über das Internet 190 beispielsweise aktuelle oder vergangene ortsbezogene Wetterinformationen zu beziehen, welche zum Beispiel in der Datenbank 180 abgelegt werden können. Auch Informationen über den aktuellen Sonnenstand und/oder die Sonnenscheindauer und/oder -intensität kann das Smartphone 10 über das Internet abfragen.
  • Zudem kann das Smartphone 10 einen Temperatursensor 90, einen Helligkeitssensor 91 und einen Bewegungssensor 92 enthalten. Weiterhin kann das Smartphone 10 eine Steuereinheit 30 aufweisen, die als Mikroprozessor oder Mikrokontroller ausgebildet sein kann. Bei dem dargestellten Beispiel weist das Smartphone 10 eine integrierte digitale Wärmebildkamera 70 auf. Alternativ oder zusätzlich kann eine digitale Wärmebildkamera extern an das Smartphone 10 über eine entsprechende Datenschnittstelle (nicht dargestellt) angeschlossen werden. Bekannt ist, dass mittels der digitalen Wärmebildkamera 70 eine Temperaturverteilung einer aufgenommenen Oberfläche eines Objekts bildlich, d.h. farblich in einer Bildebene der Wärmebildkamera 70 dargestellt werden kann.
  • Die Wärmebildkamera 70 besitzt eine bekannte innere Orientierung, die sich vorzugsweise aus der bekannten Brennweite des verwendeten Objektivs, den bekannten Verzeichnungsparametern des verwendeten Objektives, der Hauptpunktlage im Bild, der Lage des Symmetriepunktes der Verzeichnung relativ zum Hauptpunkt des Bildes und gegebenenfalls der Skalierung der Pixel des Sensors der Bildebene ergibt. Die innere Orientierung kann im Smartphone 10 gespeichert sein.
  • Zudem ist in an sich bekannter Weise mit diesen Größen bezüglich der Wärmebildkamera 70 ein 2D-Bildkoordinatensystem und ein lokales, wärmebildkamerafestes 3D-Koordinatensystem definiert, dessen Ursprung als Position des Mobilfunktelefons 10 definiert sein kann. Ferner kann eine 3D-Ablage bzw. ein 3D-Vektor zwischen dem Ursprung des wärmebildkamerafesten 3D-Koordinatensystems und einem mobilfunktelefonfesten Punkt, z. B. der Antenne eines GPS-Empfängers 50 gegeben sein, auf den sich auch der GPS Empfänger 50 beziehen kann. Der GPS-Empfänger 50 des Smartphones 10 kann in an sich bekannter Weise die Position bzw. Positionskoordinaten des Smartphones 10 bestimmen.
  • In einem Programmspeicher 80 können die zur Steuerung und Überwachung des Smartphones 10 benötigten Anweisungen hinterlegt sein. Denkbar ist, dass das Smartphone 10 alle Informationen kennt, mit denen es seine äußere Orientierung, d. h. die Position und Orientierungswinkel des mobilfunktelefonfesten lokalen 3D-Koordinatensystems zum Zeitpunkt der Aufnahme eines Wärmebildes bestimmen kann. Weiterhin ist denkbar, dass im Smartphone 10 eine Temperatur-Farbwert-Kennlinie hinsichtlich der Wärmebildkamera 70 gespeichert wird, die angibt, welcher Temperaturwert durch welchen Farbwert in der Bildebene dargestellt wird.
  • Wie nachfolgend noch detailliert erläutert wird, können in dem Programmspeicher 80 eine Vielzahl von geometrischen Modellen hinterlegt sein, die jeweils die Oberfläche eines vorbestimmten Objekts, beispielsweise eine Hauswand 100 eines Gebäudes und/oder Fenster 110, 120, welche in 2 dargestellt sind, zumindest abschnittsweise beschreiben.
  • Die vorbestimmten Objekte können in einem vorgegebenen Objektraum oder in mehreren vorgegebenen Objekträumen liegen. Ein vorgegebener Objektraum kann ein Messegelände, ein Gebäude, eine Straße oder dergleichen sein. Objekträume können in der Datenbank 180 wohl strukturiert abgelegt werden, um den Zugriff auf Einzelobjekte zu beschleunigen.
  • Jedem Objekt ist ein Objektkoordinatensystem zugeordnet, in dem die 3D-Positionen seiner Oberfläche festgelegt sind. Zu einigen Oberflächenpunkten wenigstens eines vorbestimmten Objekts können in der Datenbank 180 ebenfalls die Parameter und algebraischen Zusammenhänge abgelegt werden, die es erlauben, zu einem bestimmten Zeitpunkt die Temperatur dieser Oberflächenpunkte zu berechnen bzw. vorherzusagen. Die notwendigen Gleichungen können entweder über das Internet 190 in den Programmspeicher 80 geladen und im Mikroprozessor 30 berechnet werden. Alternativ oder zusätzlich können diese Gleichungen bereits im Programmspeicher 80 als Teil des installierten Programmes vorliegen.
  • Insbesondere können im Programmspeicher 80 und/oder in der Datenbank 180 und/oder im Programmspeicher 170 des Servers 140 alle bekannten notwendigen Abbildungsgleichungen der Zentralprojektion und der inneren Orientierung der Wärmebildkamera, mit denen auch die Abbildung einer Lochbildkamera simuliert werden kann, hinterlegt sein.
  • Auch ein Algorithmus zum Prüfen der Übereinstimmung zwischen real aufgenommenen Wärmebildern und real aufgenommenen oder simulierten Referenzwärmebildern kann zum Beispiel im Programmspeicher 80 des Smartphones 10, im Programmspeicher 170 und/oder in der Datenbank 180 hinterlegt sein.
  • Mit Hilfe der Gleichungen und der Daten aus der Datenbank 180, und/oder den Sensordaten der Sensoren 90 und 91 des Mobilfunktelefons 10 und/oder der Zeitangabe des Zeitgebers 40 kann hinsichtlich des wenigstens einen vorbestimmten Objekts die Temperatur in Oberflächenpunkten mit bekannten Oberflächenkoordinaten oder in Oberflächenbereichen mit bekannten 3D-Positionen berechnet werden. Für diese Oberflächenpunkte oder Oberflächenbereiche liegen damit die berechneten Temperaturwerte gültig für einen bestimmten Zeitpunkt vor, wobei dieser Zeitpunkt möglichst genau genug dem Zeitpunkt der realen Wärmebildaufnahme entsprechen soll. Die 3D-Positionen mit bekannten Temperaturen werden nun rechnerisch mittels Nutzung der inneren und äußeren Orientierung der Wärmebildkamera auf deren Bildebene projiziert und an jeder Stelle der Bildebene, auf die ein Objektpunkt projiziert wird, wird beispielsweise im Datenspeicher 60 der Farbwert abgespeichert, der sich aus der zu nutzenden Kennlinie zur Umrechnung von Temperatur in Farbwert ergibt. Das Ergebnis ist ein berechnetes Referenzwärmebild.
  • Wird eine ausreichende Übereinstimmung zwischen einem aktuell aufgenommenen Wärmebild und einem bereitgestellten Referenzwärmebild festgestellt, können die dem Referenzwärmebild vorab zugeordnete Position und Orientierungswinkel einer realen bzw. fiktiven Wärmebildkamera für die Wärmebildkamera 70, mit der zum Beispiel ein aktuelles Wärmebild aufgenommen worden ist, übernommen werden.
  • Die Funktionsweise des Smartphones 10 und, sofern benötigt, des Servers 140 und der Datenbank 180 werden nachfolgend näher erläutert.
  • Die Position und/oder die Orientierung des Smartphones 10 bzw. der integrierten Wärmebildkamera 70 soll nunmehr mit Hilfe der integrierten Wärmebildkamera 70 bestimmt werden, dessen Benutzer sich aktuell vor der Hauswand 100, welche in 2 darstellt ist, aufhält. In der Hauswand 100 sind die beiden Fenster 110 und 120 eingesetzt. Die Fensterrahmen 112 und 122 der Fenster 110 bzw. 120 sind beispielsweise jeweils mit einem Temperatursensor 105 bzw. 107 verbunden.
  • Angenommen sei, dass das Smartphone 10 und/oder der Server 140 dazu ausgebildet sind, Temperaturmesswerte von den beiden Temperatursensoren 105 und 107 abzufragen. Denkbar ist auch, dass die Temperatursensoren 105 und 107 dazu ausgebildet sind, Temperaturmesswerte über das Internet 190 zur Datenbank 180 zu übertragen.
  • Weiterhin sei angenommen, dass für wenigstens ein vorbestimmtes Objekt in einem vorgegebenen Objektraum wenigstens ein Referenzwärmebild bereitgestellt wird, welchem eine Position bzw. Positionskoordinaten und/oder eine Orientierung zugeordnet wird. Im vorliegenden Fall handelt es sich bei dem wenigstens einen vorbestimmten Objekt um die Hauswand 100 mit den beiden Fenstern 110 und 120 und den Koordinaten ihrer Oberfläche. Der vorgegebene Objektraum kann durch die Straße und, wenn gewünscht, zusätzlich durch die Hausnummer des Gebäudes definiert sein.
  • Angenommen sei nunmehr, dass mit der digitalen Wärmebildkamera 70 des Smartphones 10 oder mit einer separaten digitalen Wärmebildkamera (nicht dargestellt) zum Beispiel aus verschiedenen Blickwinkeln und/oder unterschiedlichen Abständen und/oder verschiedenen Zoom-Einstellungen sowie zu verschiedenen Uhrzeiten und gegebenenfalls zu verschiedenen Jahreszeiten sowie insbesondere zu einer Vielzahl an Faktoren mit ihren unterschiedlichen Einflüssen auf die Objektoberflächentemperaturen eine Vielzahl von Referenzwärmebildern von der Hauswand 100 vorab aufgenommen worden sind.
  • Weiterhin sei angenommen, dass zu jedem Aufnahmezeitpunkt der Referenzwärmebilder die Position und/oder Orientierung des Smartphones 10 bestimmt worden sind und zusätzlich die Werte der Parameter der inneren Orientierung des Objektives (insbesondere der Brennweiteneinstellung und der Verzeichnung) sowie der Temperatur-Farbwert-Kennlinie bekannt sind. Diese Werte können in der Datenbank 180 zusammen mit den Daten (Pixelbildkoordinate und dessen Farbwert sowie die Pixeldimension) der Bildebene des Referenzwärmebildes abgespeichert wurden. Die Position und/oder Orientierung können auch automatisch vom Smartphone 10 oder mittels separater Einrichtungen, die der Benutzer mit sich führt, bestimmt worden sein.
  • Jedem Referenzwärmebild wird die zum jeweiligen Aufnahmezeitpunkt bestimmte Position und/oder Orientierung des Smartphones 10 zugeordnet, indem beispielsweise im Datenspeicher 60 oder in der Datenbank 180 die aufgenommenen Referenzwärmebilder sowie die ihnen jeweils zugeordnete Position und/oder Orientierung des Smartphones 10 und/oder die Aufnahmezeit und/oder die Jahreszeit der Aufnahme gespeichert werden.
  • Werden die Referenzwärmebilder nicht mit der Wärmebildkamera 70, sondern mit einer separaten Wärmebildkamera aufgenommen, wird vorzugsweise die bekannte innere Orientierung der separaten Wärmebildkamera und/oder die von der Wärmebildkamera verwendeten Temperatur-Farbwert-Kennlinie zusätzlich zu den Farbwerten und Bildkoordinaten des Wärmebildes und der Pixeldimension zur Skalierung der Achsen des Bildkoordinatensystems gespeichert. Die innere Orientierung der separaten Wärmebildkamera und/oder die Temperatur-Farbwert-Kennlinie kann zur Korrektur der aufgenommenen Referenzwärmebilder oder eines von der Wärmebildkamera 70 aktuell aufgenommenen Wärmebildes verwendet werden, wenn diese nicht mit der inneren Orientierung und/oder der Temperatur-Farbwert-Kennlinie und/oder der Pixeldimension der Wärmbildkamera 70 des Smartphones 10 übereinstimmen.
  • Weiterhin ist denkbar, dass die Positionskoordinaten der Hauswand 100, des Fensters 110, der Rahmenseiten des Fensters 110, des Fensters 120 und/oder der Rahmenseiten des Fensters 120 bekannt und in der Datenbank 180 gespeichert worden sind.
  • Denkbar ist auch, dass diese Daten im Datenspeicher 60 des Smartphones 10 zumindest temporär zum Beispiel auf Anforderung abgelegt werden. Alternativ oder zusätzlich könnten die besagten Daten auch im Datenspeicher 160 des Servers 140 hinterlegt werden.
  • Nunmehr sei angenommen, dass der Nutzer des Smartphones 10 vor der Hauswand 100 steht und die Position und/oder Orientierung seines Smartphones 10 wissen möchte.
  • Um die Position und/oder Orientierung zumindest in erster Näherung mit Hilfe der digitalen Wärmebildkamera 70 bestimmen zu können, nimmt der Benutzer aktuell zum Beispiel ein Wärmebild von der Hauswand 100 mit der integrierten Wärmebildkamera 70 auf. Zudem kann die Uhrzeit und das Datum der Wärmebildaufnahme vom Zeitgeber 40 bestimmt werden.
  • Um ein geeignetes vorab aufgenommenes Referenzwärmebild, welches beispielsweise in der Datenbank 180 hinterlegt worden ist, auffinden zu können, sollte zumindest eine grobe Positionsinformation des zum Referenzwärmebild gehörenden Objekts, d. i. zum Beispiel die Hauswand 100 bekannt und zum Beispiel in der Datenbank 180 gespeichert sein. Es ist auch denkbar, dass das Mobilfunktelefon 10 bereits eine erste genäherte Position kennt und dass unter Ansprechen auf diese Position geeignete Referenzwärmebilder in der Datenbank 180 gesucht werden.
  • Um das geeignete Referenzwärmebild oder die Anzahl an geeigneten, gespeicherten Referenzwärmebilder, die mit einem aktuell aufgenommenen Wärmebild abgeglichen werden sollen, sinnvoll einzuschränken und somit den Rechenaufwand zu reduzieren, kann der Benutzer am Smartphone 10 auch den Objektraum, in welchem sich das bestimmte Objekt, beispielsweise die Hauswand 100, befindet, definieren. Hierzu kann er die Straße und gegebenenfalls die Hausnummer zum Beispiel am Smartphone 10 eingeben. Die Adressdaten können dann zum Beispiel zusammen mit dem aufgenommenen Wärmebild, dem Aufnahmezeitpunkt und dem Datum vom Smartphone 10 zum Server 140 gesendet werden.
  • Unter Ansprechen auf wenigstens einige der empfangenen Daten wählt der Mikroprozessor 150 des Servers 140 wenigstens ein Referenzwärmebild aus dem Datenspeicher 160 aus, und prüft in Abhängigkeit von einem definierten Übereinstimmungskriterium, ob wenigstens eines der vorausgewählten Referenzwärmebilder mit dem vom Smartphone 10 aufgenommenen aktuellen Wärmebild übereinstimmt. Anschließend wird jedes vorausgewählte Referenzwärmebild ausgewählt, welches das vordefinierte Übereinstimmungskriterium erfüllt, d.h. für das eine Übereinstimmung mit dem von der Wärmebildkamera 70 aufgenommenen Wärmebild zuvor festgestellt worden ist. Erfüllen mehrere Referenzwärmebilder das Übereinstimmungskriterium, wird dasjenige mit der besten Übereinstimmung ausgewählt, womit auch eine Vorauswahl auf dessen Position und Orientierung getroffen wird.
  • Als ein mögliches Übereinstimmungskriterium kann das Über- oder Unterschreiten eines vorgegebenen Schwellenwertes dienen, welches von einem – in Verfahrensschritt c) – angewandten Prüfalgorithmus abhängt.
  • Angenommen sei, dass im Programmspeicher 170 ein Korrelationsalgorithmus zum Prüfen der Übereinstimmung eines vom Smartphone 10 aufgenommenen Wärmebilds mit einem Referenzwärmebild abgespeichert ist.
  • In diesem Fall kann ein Schwellenwert von beispielsweise 0,9 im Datenspeicher 160 hinterlegt sein. Ein Übereinstimmungswert von 1 würde signalisieren, dass das Referenzwärmebild mit dem vom Smartphone 10 aufgenommenen Wärmebild vollständig übereinstimmt.
  • Der Mikroprozessor 150 ist vorzugsweise dazu ausgebildet, dasjenige Referenzwärmebild auszuwählen, für das der Vergleich mit dem vom Smartphone 10 aufgenommenen Wärmebild einen Wert ergibt, der größer oder gleich dem Schwellenwert ist. Werden mehrere Referenzwärmebilder gefunden, für die der jeweilige Übereinstimmungswert größer oder gleich dem Schwellenwert ist, wird schließlich das Referenzwärmebild ausgewählt, für das die beste Übereinstimmung berechnet worden ist. Dieser Vorgang kann iterativ mit vorgegebener, zuerst grober und danach immer feinerer Rasterung für die auszuwählenden Positions- und/oder Orientierungsfortschritte erfolgen, wodurch in vielen Fällen die Gesamtrechenzeit zum Auffinden der besten Übereinstimmung und damit der besten Position und Orientierung stark reduziert wird.
  • Ein einfaches Verfahren für den Vergleich beziehungsweise den Abgleich zwischen dem aufgenommenen Wärmebild und den vorab aufgenommenen Referenzwärmebildern wäre die Ausführung einer gewichteten Korrelationsfunktion bezüglich der Farbwerte des aufgenommenen Wärmebildes und der Farbwerte der jeweiligen Referenzwärmebilder.
  • Nachdem auf diese Weise das am besten übereinstimmende Referenzwärmebild gefunden worden ist, wird vom Mikroprozessor 150 die Position und/oder Orientierung der mobilen elektronischen Einrichtung 10 in Abhängigkeit von der Position bzw. den Positionskoordinaten und/oder der Orientierung bestimmt, die dem ausgewählten Referenzwärmebild, wie zuvor erläutert, zugeordnet worden sind. Hierbei handelt es sich um die Positionskoordinaten und/oder die Orientierung, die zum Zeitpunkt der Aufnahme des entsprechenden Referenzwärmebildes der Wärmebildkamera 70, oder, wenn eine separate Wärmebildkamera verwendet worden ist, der separaten Wärmebildkamera zugeordnet worden sind. Diese Positionskoordinaten und/oder diese Orientierung werden anschließend vom Server 140 zum Smartphone 10 übertragen.
  • Angemerkt sei, dass bei der Prüfung auf Übereinstimmung eines aktuell aufgenommenen Wärmebilds mit einem vorab aufgenommenen Referenzwärmbild mittels eines Korrelationsverfahrens die Koordinaten der Oberflächenpunkte des Objekts ohne Bedeutung sind und deshalb auch nicht vorliegen bzw. bestimmt werden müssen.
  • Lediglich am Rande sei erwähnt, dass gemäß einer vorteilhaften Implementierung sowohl dem Smartphone 10 die IP-Adresse des Servers 140 und die IP-Adresse der Datenbank 180 als auch dem Server 140 die Adresse des Smartphone 10 und die IP-Adresse der Datenbank 180 bekannt ist.
  • Das zuvor beschriebene Verfahren zum Bestimmen der Position und/oder Orientierung kann auch vollständig im Smartphone 10 unter Steuerung des Mikroprozessors 30 ausgeführt werden. Hierzu sind die vorab aufgenommenen Referenzwärmebilder zusammen mit den ihnen jeweils zugeordneten Positionskoordinaten und/oder der ihnen zugeordneten Orientierung entweder im Datenspeicher 60 hinterlegt, oder sie werden beispielsweise vom Smartphone 10 von der Datenbank 180 angefordert und temporär im Datenspeicher 60 abgelegt.
  • Anstatt vorab für vorbestimmte Objekte mehrere Referenzwärmebilder mit einer externen Wärmebildkamera oder mit der Wärmebildkamera 70 des Smartphones 10 aufzunehmen und diese zusammen mit den jeweiligen Positionen und/oder Orientierungen der aufnehmenden Wärmebildkamera und Kennungen zum Auffinden wenigstens eines geeigneten Referenzwärmebilds zu speichern, können Referenzwärmebilder vorab oder in Echtzeit vom Smartphone 10 und/oder vom Server 140 berechnet werden.
  • Hierzu können im Server 140 oder Smartphone 10 mehrere geometrische Modelle abgelegt werden, die bestimmte Objekte, wie zum Beispiel die Hauswand 100 mit den beiden Fenstern 110 und 120 oder andere vorbestimmte geometrische Objekte beschreiben. Ausgewählte Oberflächenpunkte dieser Modelle müssen in einem 3D-Koordinatensystem des Objektraumes bekannt sein. Idealerweise sind die 3D-Positionen zusammenhängender Oberflächenbereiche im Objektraum gegeben. Es muss aber nicht die gesamte Oberfläche positionsmäßig bekannt sein.
  • Aus der darstellenden Geometrie sind die mathematischen Gleichungen bekannt, um Oberflächen dreidimensionaler Objekte beschreiben zu können. Beispielsweise kann die Riemannsche Geometrie verwendet werden, um die Oberflächen der in 2 gezeigte Hauswand 10 zusammen mit den Fenstern 110 und 120 zu beschreiben, sofern die Oberflächen nicht vollständig aus ebenen Flächen bestehen. Die Riemannsche Geometrie beschreibt z.B. auch den Verlauf einer Oberflächenkurve auf einer gekrümmten Fläche, wobei wie später erläutert wird, die Oberflächenkurve die simulierte Isolinie einer prognostizierten konstanten Oberflächentemperatur sein kann.
  • Wenn in der Beschreibung von einer Oberflächentemperatur gesprochen wird, so ist dabei vorzugsweise die resultierende Temperatur gemeint, die von diesem Oberflächenpunkt ausgeht und im Wärmebild eine spezielle Farbe erzeugt.
  • Ferner können im Smartphone 10 und/oder im Server 140 Gleichungen zum Berechnen von Temperaturverteilungen auf Oberflächen von Objekten, die durch die geometrischen Modelle beschrieben werden, abgelegt werden. Hierbei ist zu beachten, dass vorzugsweise für jeden Punkt oder für ausgewählte Punkte oder für ausgewählte zusammenhängende Bereiche einer berechneten Objektoberfläche ein Temperaturwert bzw. der dazugehörende Farbwert gemäß einer vorgegebenen Temperatur-Farbwert-Kennlinie berechnet wird.
  • Soll ein aktuell aufgenommenes Wärmebild mit einem Korrelationsverfahren auf Übereinstimmung mit einem simulierten Referenzwärmebild geprüft werden, so sollten vorzugsweise die Positionskoordinaten mindestens einiger der Oberflächenpunkte des Objekts im Objektraum bekannt sein, um an diesen Stellen die Temperaturwerte im Vorhersagemodell berechnen zu können, da ein solches Vorhersagemodell i.d.R. ein positionsabhängiges Ergebnis – die Temperatur an dieser Position – liefert.
  • Diese Positionskoordinaten können auch nur punktuell vorliegen, wobei Zwischenpositionen oder angrenzende Positionen durch geometrisch bekannte Oberflächenverläufe berechnet werden können, so z.B. bei einer bekannten Kugeloberfläche.
  • Sind die Temperaturen für einige Oberflächenpositionen im Vorhersagemodell erzeugt worden und werden diese Temperaturwerte danach mittels geometrischer Abbildung und der Temperatur-Farben-Kennlinie als Farbwerte in ein simuliertes Farbbild abgebildet, werden diese Oberflächenpositionen bei der Übereinstimmungsprüfung mittels Korrelationsverfahren nicht mehr benötigt.
  • Hinsichtlich der erwähnten Korrelationsverfahren kann auch geprüft werden, welche Bildpunkte des aktuell aufgenommenen Wärmebilds und welche des wenigstens einen bereitgestellten Referenzwärmebilds in der Korrelation sinnvoller Weise miteinander „verglichen“ werden und welche an der Korrelation nicht teilnehmen. Im einfachsten Fall werden das aktuell aufgenommene Wärmebild und ein bereitgestelltes Referenzwärmebild, das ist eine vorab real aufgenommenes oder ein simuliertes Referenzwärmebild, Pixel für Pixel für verglichen. Verfahren, um Bildbereiche auszuschließen oder Pixelgrößen umzurechnen sind allgemein bekannt. Hier sei nur genannt, dass die simulierten Referenzwärmebilder Bildbereiche enthalten können, an denen kein Farbwert simuliert werden konnte, oder wurde, so dass diese Pixelbereiche später in den Korrelationsverfahren immer auszuschließen sind.
  • Angemerkt sei, dass im Server 140 und/oder im Smartphone 10 und/oder in der Datenbank 180 verschiedene Parameter, wie zum Beispiel Angaben über die Materialeigenschaften bestimmter Objekte, wie zum Beispiel der Hauswand 100, der Fenster 110, 120 und Fensterrahmen 112, 122, aktuelle und/oder vergangene lokale Wetterinformationen, die Position und/oder Orientierung, d.i. die äußere und/oder innere Orientierung, einer virtuellen, d.h. einer mathematisch beschreibbaren Wärmebildkamera, und beispielsweise eine Temperatur-Farbwert-Kennlinie abgelegt sein können, mit denen die Temperaturverteilung auf der Oberfläche eines bestimmten Objekt, beispielsweise der Hauswand 100, der Fenster 110, 120 und Fensterrahmen 112, 122 zu wenigstens einen Zeitpunkt punktweise berechnet werden kann. Mit Hilfe der Temperatur-Farbwert-Kennlinie wird ein Temperaturwert eines Oberflächenpunkts auf einen Farbwert eindeutig abgebildet. Die berechneten Farbwerte sind die Abbildung der Objektoberflächentemperatur in ein Referenzwärmebild. Ein Referenzwärmebild besteht somit aus Pixelkoordinaten, an denen die jeweilige Farbe abgespeichert ist.
  • Die aktuelle und/oder vergangenen Wetterinformationen können zum Beispiel den aktuellen und/oder vergangenen Sonnenstand, die aktuelle Temperatur, die Sonneneinstrahlung während der letzten Stunden und dergleichen enthalten. Diese Angaben können als Eingangsdaten eines Algorithmus zur Berechnung der Temperaturverteilung auf der Oberfläche eines bestimmten Objekts benutzt werden.
  • Nunmehr sei angenommen, dass mit der Wärmebildkamera 70 des Smartphones 10 zum Zeitpunkt t0 ein Wärmebild der Hauswand 100 aufgenommen worden ist. Zudem sei angenommen, dass vom Smartphone 10 die zum Zeitpunkt t0 von den Temperatursensoren 105 und 107 gemessenen Temperaturwerte abgefragt worden sind. Der Aufnahmezeitpunkt, die Adresse des Gebäudes, zu dem die Hauswand 100 gehört, das aktuell aufgenommene digitale Wärmebild sowie die Temperaturwerte der Temperatursensoren 105 und 107 können zum Server 140 übertragen werden.
  • Der Mikroprozessor 150, der eine Recheneinheit bildet, ist vorzugsweise dazu ausgebildet, beispielsweise unter Ansprechen auf die vom Smartphone 10 übertragene Gebäudeadresse wenigstens ein im Programmspeicher 170 oder im Datenspeicher 160 gespeichertes geometrisches Modell, welches beim erläuterten Beispiel die Oberfläche der Hauswand 100, der Fenster 110 und 120 oder der Fensterrahmen 112 und 122 wenigstens abschnittsweise beschreibt, aufzurufen. Angemerkt sei bereits an dieser Stelle, dass je nach Implementierung auch das Smartphone 10 bzw. der Mikroprozessor 30 die gleichen Schritte wie der Server bzw. der Mikroprozessor 150 ausführen kann.
  • Anschließend berechnet bzw. simuliert der Mikroprozessor 150 in Echtzeit, d. h. im Wesentlichen zum Aufnahmezeitpunkt des Wärmebilds, wenigstens ein Referenzwärmebild für das wenigstens eine vorbestimmte Objekt unter Verwendung des aufgerufenen geometrischen Modells in Abhängigkeit von einer vorgegebenen Position und/oder Orientierung einer virtuellen Wärmebildkamera und beispielsweise in Abhängigkeit von den aus der Datenbank 180 abgerufenen Wetterinformationen und objektraumbezogenen Informationen. Objektraumbezogene Informationen sind insbesondere Temperaturwerte der Temperatursensoren 105 und 107 zum Aufnahmezeitpunkt oder zu früheren Zeitpunkten. Für die virtuelle Wärmebildkamera kann vorzugsweise das Modell einer Lochbildkamera in Verbindung mit den Abbildungsgleichungen der Zentralperspektive verwendet werden. Die hierzu notwendigen mathematischen Grundlagen sind dem Fachmann aus der Photogrammetrie bekannt.
  • Anschließend wird zwischen dem aufgenommenen digitalen Wärmebild und dem berechneten Referenzwärmebild ein Abgleich durchgeführt, indem die Temperatur- bzw. Farbwerte des aufgenommenen Wärmebildes mit denen des Referenzwärmebildes vorzugsweise Pixel für Pixel auf Übereinstimmung geprüft werden. Wie bereits weiter oben ausführlich erläutert, können hierfür verschiedene Verfahren, wie zum Beispiel ein Korrelationsverfahren angewandt werden.
  • Wird eine Übereinstimmung festgestellt, können vorzugsweise die diesem Referenzwärmebild zugeordnete Position und/oder Orientierung der virtuellen Wärmebildkamera unmittelbar als Position und/oder Orientierung des Smartphones 10 verwendet und zum Smartphone 10 übertragen werden.
  • Wird keine Übereinstimmung bezüglich des definierten Übereinstimmungskriteriums festgestellt, berechnet der Mikroprozessor 150 von der Hauswand 100, den Fenstern 110 und 120 und den Fensterrahmen 112 und 122 weitere Referenzwärmebilder für den Aufnahmezeitpunkt des Wärmebildes in Abhängigkeit von unterschiedlichen Positionen und/oder Orientierungen der virtuellen Wärmebildkamera, und zwar solange, bis eine Übereinstimmung festgestellt worden ist. Alternativ oder zusätzlich zur Berechnung weiterer simulierter Referenzwärmebilder kann auf weitere, beispielsweise in der Datenbank 180 bereits vorliegende Referenzwärmebilder zugriffen und die Übereinstimmungsprüfung mit diesen Referenzwärmebilder wiederholt werden, bis die beste Übereinstimmung festgestellt worden ist.
  • Denkbar ist, dass die zuvor beschriebenen Verfahrensschritte auch allesamt in dem Smartphone 10 unter Steuerung des Mikroprozessors 30 ausgeführt werden können.
  • Die Erstellungszeiten der simulierten Referenzwärmebilder sowie die Berechnungszeiten der Korrelationen werden reduziert, wenn nicht das gesamte Bild erzeugt oder korreliert wird, sondern vorab nur bestimmte Bereiche ausgewählt werden. Solche Bereiche können in einem simulierten Referenzwärmebild zum Beispiel aufgrund ausreichender geometrischer Information der beiden Fensterrahmen 112 und 122 sowie unter Berücksichtigung deren Temperaturwertebereiche als relevante Farbbereiche im aktuell aufgenommenen Wärmebild ausgewählt werden.
  • Insbesondere können präzisere Positions- und/oder Orientierungswerte ermittelt werden, wenn aus dem mit der Wärmebildkamera 40 aufgenommenen Wärmebild ein bestimmter Wärmebildausschnitt ausgewählt wird, was oben bereits beschrieben ist. Beispielsweise sei angenommen, dass der Fensterrahmen 112 des Fensters 110 ausgewählt wird, dessen Temperatur vom Temperatursensor 105 gemessen wird. In ähnlicher Weise wird aus den berechneten Referenzwärmebildern der Fensterrahmen des Fensters 110 ausgewählt. Dieses Verfahren ist z.B. dann vorteilhaft, wenn die Fensterflächen zu sehr von der unbekannten Innentemperatur des Gebäudes bestimmt werden. Außerdem kann auf diese Weise, wie oben bereits erwähnt, die Berechnungszeit verringert werden.
  • Zudem kann ausgenutzt werden, dass dem Fachmann bekannt ist, dass Informationen innerhalb von bekannten Begrenzungslinien im Bild nur einen geringen zusätzlichen Beitrag für die Zielgrößen liefern. Von Vorteil ist auch die damit erreichte Datenreduktion bezüglich einer Abspeicherung in der Datenbank 180.
  • Zudem kann für den ausgewählten Ausschnitt gemäß den obigen Erläuterungen ein oder mehrere Referenzwärmebilder in Abhängigkeit von unterschiedlichen Positionen und/oder Orientierungen der virtuellen Wärmebildkamera berechnet werden. Im vorliegenden obigen Beispiel wird z.B. auch davon ausgegangen, dass ein Fensterrahmen an allen Stellen die gleiche Oberflächentemperatur hat, da ein gut leitender z.B. metallischer Fensterrahmen durchgehend aus dem gleichen Material besteht.
  • Nunmehr wird der im aufgenommenen Wärmebild ausgewählte Wärmebildausschnitt mit den berechneten Referenzwärmebildausschnitten verglichen und wiederum ein Wert für das Maß einer Übereinstimmung zwischen jedem mit dem ausgewählten Wärmebildausschnitt verglichenen Referenzwärmebildausschnitt bestimmt. Sobald die beste Übereinstimmung zwischen dem ausgewählten Ausschnitt des von der Wärmebildkamera 70 aufgenommenen Referenzwärmebilds und dem ausgewählten Ausschnitt eines berechneten/simulierten Referenzwärmebildes und/oder eines vorab abgespeicherten real aufgenommenen Referenzwärmebilds erkannt worden ist, können zum Beispiel die dem am besten übereinstimmenden Referenzwärmebild zugeordneten Positionskoordinaten und/oder Orientierung verwendet werden, um die Position und/oder Orientierung des Smartphones 10 zu bestimmen.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Nicht-Patentliteratur
    • Webseiten: www.areamobile.de/news/36787-cat-s60 [0002]
    • www.heise.de/newsticker/meldung/hands-on [0002]
    • Fachbuch „Photogrammetrie, Grundlagen, Verfahren, Anwendungen“, von K. Schwidedfsky et al., 7. Auflage des „Grundriß der Photogrammetrie“, 1976, B. G. Teubner Stuttgart [0008]

Claims (11)

  1. Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung (10) mit Hilfe einer digitalen Wärmebildkamera (70), umfassend folgende Schritte: a) Aufnehmen, mit einer digitalen Wärmebildkamera (70), die einer mobilen elektronischen Einrichtung (10) zugeordnet ist, eines Wärmebilds eines Objekts; b) Bereitstellen für wenigstens ein vorbestimmtes Objekt wenigstens eines Referenzwärmebilds, welchem eine Position und/oder eine Orientierung zugeordnet sind; c) Prüfen in Abhängigkeit von einem definierten Übereinstimmungskriterium, ob das in Schritt a) aufgenommene Wärmebild mit dem wenigstens einen in Schritt b) bereitgestellten Referenzwärmebild übereinstimmt; d) Auswählen des wenigstens einen Referenzwärmebildes, wenn in Schritt c) eine Übereinstimmung zwischen dem in Schritt a) aufgenommenen Wärmebild und dem wenigstens einen in Schritt b) bereitgestellten Referenzwärmebild festgestellt worden ist; e) Bestimmen der Position und/oder Orientierung der mobilen elektronischen Einrichtung in Abhängigkeit von der Position und/oder der Orientierung, die dem in Schritt d) ausgewählten Referenzwärmebild zugeordnet sind.
  2. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass Schritt b) folgende Schritte umfasst: b1) Aufrufen, von einer Recheneinheit (30; 150), wenigstens eines in einer Speichereinrichtung (60; 160; 180) abgelegten geometrischen Modells, welches die Oberfläche des wenigstens einen vorbestimmten Objekts wenigstens abschnittsweise beschreibt; b2) Berechnen wenigstens eines Referenzwärmebilds für das wenigstens eine vorbestimmte Objekt unter Verwendung des aufgerufenen geometrischen Modells.
  3. Verfahren nach Anspruch 2, dadurch gekennzeichnet, dass in Schritt b2) das wenigstens eine Referenzwärmebild in Abhängigkeit von Zeitinformationen, und/oder von Informationen über die Materialeigenschaften der Oberfläche des wenigstens einen Objekts, und/oder von Wetterinformationen, und/oder von Temperaturinformationen des Objektraums des wenigstens einen Objektes, und/oder von Informationen über die äußere und/oder innere Orientierung einer virtuellen Wärmebildkamera und/oder über die Position einer virtuellen Wärmebildkamera berechnet wird.
  4. Verfahren nach Anspruch 3, dadurch gekennzeichnet, dass in Schritt a) der Aufnahmezeitpunkt bestimmt wird, und dass in Schritt b2) das wenigstens eine Referenzwärmebild für das wenigstens eine vorbestimmte Objekt für den Aufnahmezeitpunkt berechnet wird.
  5. Verfahren nach Anspruch 1, dadurch gekennzeichnet, dass Schritt b) folgende Schritte umfasst: Auslesen, aus einer Speichereinrichtung, wenigstens eines Referenzwärmebildes, welches zuvor von einer Wärmebildkamera aufgenommen und zusammen mit der der Wärmebildkamera zum Aufnahmezeitpunkt des wenigstens einen Referenzwärmebildes zugeordneten Position und/oder Orientierung in der Speichereinrichtung abgelegt worden ist.
  6. Verfahren nach Anspruch 5, dadurch gekennzeichnet, dass die Position und/oder Orientierung der Wärmebildkamera für den Zeitpunkt bestimmt wird, zu dem das wenigstens eine Referenzwärmebild von dem vorbestimmten Objekt aufgenommen worden ist.
  7. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass das in Schritt a) aufgenommenen Wärmebild zu einer von der mobilen elektronischen Einrichtung (10) räumlich getrennten Rechnereinrichtung (140) übertragen wird, und dass die Schritte b) bis e) in der Rechnereinrichtung (140) ausgeführt werden.
  8. Verfahren nach einem der Ansprüche 1 bis 6, dadurch gekennzeichnet, dass wenigstens einer der Schritte b) bis e) von der mobilen elektronischen Einrichtung (10) ausgeführt werden.
  9. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass in Schritt a) aus dem aufgenommenen Wärmebild ein Wärmebildausschnitt ausgewählt wird, dass in Schritt b) aus dem wenigstens einen bereitgestellten Referenzwärmebild ein Referenzwärmebildausschnitt ausgewählt wird, und dass in Schritt c) in Abhängigkeit von dem definierten Übereinstimmungskriterium geprüft wird, ob der in Schritt a) ausgewählte Wärmebildausschnitt mit dem wenigstens einen in Schritt b) ausgewählten Referenzwärmebildausschnitt übereinstimmt.
  10. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass die mobile elektronische Einrichtung (10) ein Mobilfunktelefon ist.
  11. Verfahren nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass wenn in Schritt d) mehrere Referenzwärmebilder ausgewählt worden sind, dasjenige Referenzwärmebild ausgewählt wird, welches am besten mit dem in Schritt a) aufgenommenen Wärmebild übereinstimmt.
DE102016109628.8A 2016-05-25 2016-05-25 Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera Pending DE102016109628A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102016109628.8A DE102016109628A1 (de) 2016-05-25 2016-05-25 Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102016109628.8A DE102016109628A1 (de) 2016-05-25 2016-05-25 Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera

Publications (1)

Publication Number Publication Date
DE102016109628A1 true DE102016109628A1 (de) 2017-11-30

Family

ID=60268933

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102016109628.8A Pending DE102016109628A1 (de) 2016-05-25 2016-05-25 Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera

Country Status (1)

Country Link
DE (1) DE102016109628A1 (de)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016119920A1 (de) 2016-10-19 2018-04-19 Deutsche Telekom Ag Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera
DE102016125372A1 (de) 2016-12-22 2018-06-28 Deutsche Telekom Ag Verfahren zum Bestimmen der Position und/oder Orientierung durch gleichzeitige Aufnahme von Objektrauminformation aus erheblich unterschiedlichen Wellenlängenbereichen in einem Bild, digitales Kamerasystem und mobile elektronische Einrichtung
DE102017111023A1 (de) 2017-05-19 2018-11-22 Deutsche Telekom Ag Digitales Kamerasystem, Linse und Verfahren zum Bestimmen der Position und/oder Orientierung

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009049849A1 (de) * 2009-10-19 2011-04-21 Metaio Gmbh Verfahren zur Bestimmung der Pose einer Kamera und zur Erkennung eines Objekts einer realen Umgebung
US8761439B1 (en) * 2011-08-24 2014-06-24 Sri International Method and apparatus for generating three-dimensional pose using monocular visual sensor and inertial measurement unit
US20150245020A1 (en) * 2012-09-27 2015-08-27 Metaio Gmbh Image processing method, particularly used in a vision-based localization of a device
US20160006951A1 (en) * 2013-02-25 2016-01-07 Commonwealth Scientific And Industrial Research Organisation 3d imaging method and system
DE102014217963A1 (de) * 2014-09-09 2016-03-10 Bayerische Motoren Werke Aktiengesellschaft Posenbestimmung einer Datenbrille mithilfe von passiven IR-Markern
WO2016050290A1 (en) * 2014-10-01 2016-04-07 Metaio Gmbh Method and system for determining at least one property related to at least part of a real environment
EP3106832A2 (de) * 2015-05-29 2016-12-21 Northrop Grumman Systems Corporation Kreuzspektrumsmerkmalskorrelation zur navigationsanpassung

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009049849A1 (de) * 2009-10-19 2011-04-21 Metaio Gmbh Verfahren zur Bestimmung der Pose einer Kamera und zur Erkennung eines Objekts einer realen Umgebung
US8761439B1 (en) * 2011-08-24 2014-06-24 Sri International Method and apparatus for generating three-dimensional pose using monocular visual sensor and inertial measurement unit
US20150245020A1 (en) * 2012-09-27 2015-08-27 Metaio Gmbh Image processing method, particularly used in a vision-based localization of a device
US20160006951A1 (en) * 2013-02-25 2016-01-07 Commonwealth Scientific And Industrial Research Organisation 3d imaging method and system
DE102014217963A1 (de) * 2014-09-09 2016-03-10 Bayerische Motoren Werke Aktiengesellschaft Posenbestimmung einer Datenbrille mithilfe von passiven IR-Markern
WO2016050290A1 (en) * 2014-10-01 2016-04-07 Metaio Gmbh Method and system for determining at least one property related to at least part of a real environment
EP3106832A2 (de) * 2015-05-29 2016-12-21 Northrop Grumman Systems Corporation Kreuzspektrumsmerkmalskorrelation zur navigationsanpassung

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Fachbuch „Photogrammetrie, Grundlagen, Verfahren, Anwendungen", von K. Schwidedfsky et al., 7. Auflage des „Grundriß der Photogrammetrie", 1976, B. G. Teubner Stuttgart
Webseiten: www.areamobile.de/news/36787-cat-s60
www.heise.de/newsticker/meldung/hands-on

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016119920A1 (de) 2016-10-19 2018-04-19 Deutsche Telekom Ag Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera
DE102016125372A1 (de) 2016-12-22 2018-06-28 Deutsche Telekom Ag Verfahren zum Bestimmen der Position und/oder Orientierung durch gleichzeitige Aufnahme von Objektrauminformation aus erheblich unterschiedlichen Wellenlängenbereichen in einem Bild, digitales Kamerasystem und mobile elektronische Einrichtung
DE102017111023A1 (de) 2017-05-19 2018-11-22 Deutsche Telekom Ag Digitales Kamerasystem, Linse und Verfahren zum Bestimmen der Position und/oder Orientierung
DE102017111023B4 (de) 2017-05-19 2020-06-18 Deutsche Telekom Ag Digitales Kamerasystem, Verfahren zum Bestimmen der Position und/oder Orientierung und mobile elektronische Einrichtung

Similar Documents

Publication Publication Date Title
DE102019005938A1 (de) Intelligentes Identifizieren von Ersetzungsbereichen zum Mischen und Ersetzen von Personen in Gruppenporträts
EP1637838B1 (de) Verarbeitung von Fernerkundungsdaten
EP3491417B1 (de) Verfahren und system zum erfassen von landmarken in einem verkehrsumfeld einer mobilen einheit
DE112016002817T5 (de) Änderungserfassungbasiertes bildaufnahme-beauftragungssystem
DE102017010210A1 (de) Bild-Matting mittels tiefem Lernen
DE112017006487T5 (de) Verfahren und vorrichtung zum erzeugen eines suchmusters für einen ereignisort
DE102016102607A1 (de) Scananordnung und Verfahren zum Scannen eines Objektes
DE102016214028A1 (de) Verfahren und System zum Bestimmen einer Position einer mobilen Einheit
DE202010018498U1 (de) Abgleich eines ungefähr lokalisierten Anfragebildes mit einem Referenzbildsatz
EP3824247A1 (de) Verfahren und system zum bestimmen einer position eines fahrzeugs
DE102016109628A1 (de) Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera
DE112008000017T5 (de) Abbilden von Bildern mit Gestaltbeschreibern
DE102008054453A1 (de) Messsystem zur Vermessung von Räumen und/oder von Objekten
DE102008002241A1 (de) Verfahren und Messsystem zur bildbasierten Vermessung eines Raumes
DE102016119920A1 (de) Verfahren zum Bestimmen der Position und/oder Orientierung einer mobilen elektronischen Einrichtung mit Hilfe einer digitalen Wärmebildkamera
CN110443212A (zh) 用于目标检测的正样本获取方法、装置、设备及存储介质
DE102012107153A1 (de) Vorrichtung und Verfahren zur Bestimmung der Eigenlage einer bildaufnehmenden Kamera
DE112016005479T5 (de) Datenanalysesystem
DE102019133752A1 (de) Systeme und verfahren zum ermitteln von informationen überbeleuchtungskörperanordnungen
AT511460B1 (de) Verfahren zur bestimmung der position eines luftfahrzeugs
DE102015220031A1 (de) Verfahren zur Konfidenzabschätzung für optisch-visuelle Posenbestimmung
DE112007001011T5 (de) Ein automatisierter Prozess zum Erzeugen eines berechneten Entwurfs einer zusammengesetzten Kamera, die mehrere digitale Bilderzeugungsgeräte umfasst
DE10145608B4 (de) Modellbasierte Objektklassifikation und Zielerkennung
DE102019102252A1 (de) Verfahren zur Unterstützung der Installation eines Sensors bzw. einer Leuchte in Beleuchtungssystemen
DE102019001910B3 (de) Vorrichtung und Verfahren zum Optimieren von Eigenschaften einer fotografischen Aufnahme

Legal Events

Date Code Title Description
R012 Request for examination validly filed
R016 Response to examination communication
R016 Response to examination communication