DE102018217834A1 - Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung - Google Patents

Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung Download PDF

Info

Publication number
DE102018217834A1
DE102018217834A1 DE102018217834.8A DE102018217834A DE102018217834A1 DE 102018217834 A1 DE102018217834 A1 DE 102018217834A1 DE 102018217834 A DE102018217834 A DE 102018217834A DE 102018217834 A1 DE102018217834 A1 DE 102018217834A1
Authority
DE
Germany
Prior art keywords
viewing area
virtual content
display device
displayed
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
DE102018217834.8A
Other languages
English (en)
Inventor
Johannes Von Hoyningen-Huene
Michael Schneider
Andreas Mueller
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to DE102018217834.8A priority Critical patent/DE102018217834A1/de
Publication of DE102018217834A1 publication Critical patent/DE102018217834A1/de
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

Die Erfindung betrifft ein Verfahren zum Betreiben einer Erfassungs- und Anzeigevorrichtung (150), mittels welcher ein Sichtbereich (155) erfassbar und virtuelle Inhalte (151, 151') in den Sichtbereich (155) einblendbar sind, wobei der Sichtbereich (155) mittels der Erfassungs- und Anzeigevorrichtung (150) erfasst und wenigstens ein, in dem Sichtbereich (155) vorhandenes, erfasstes Objekt (220) ermittelt wird, wobei mittels wenigstens einer zu der Erfassungs- und Anzeigevorrichtung externen Datenquelle Informationen zu dem wenigstens einen, in dem Sichtbereich (155) vorhandenen Objekt (220) ermittelt werden, wobei basierend auf den mittels der wenigstens einen externen Datenquelle ermittelten Informationen bestimmt wird, ob für das wenigstens eine Objekt (220) in dem Sichtbereich (155) ein Konflikt mit einzublendenden virtuellen Inhalten (151) vorliegt, und wobei, falls ein Konflikt vorliegt, wenigstens eine Gegenmaßnahme getroffen wird.

Description

  • Die vorliegende Erfindung betrifft ein Verfahren und ein System zum Betreiben einer Erfassungs- und Anzeigevorrichtung, mittels welcher ein Sichtbereich erfassbar und virtuelle Inhalte in den Sichtbereich einblendbar sind.
  • Stand der Technik
  • In sog. Augmented-Reality-Anwendungen (im Folgenden auch mit AR abgekürzt) wird eine Realitätswahrnehmung eines Nutzers durch virtuelle Inhalte wie 3D-Modelle, Bilder, Videos, Texte oder sonstige Informationen erweitert. Diese zusätzlichen, virtuellen Inhalte könne dabei mit Hilfe eines AR-Endgeräts im Sichtfeld bzw. Sichtbereich des Nutzers dargestellt bzw. eingeblendet werden. Mögliche Beispiele für AR-Endgeräte sind Videobrillen, Tablets oder Smartphones, die in Blickrichtung gehalten werden, Head-Up-Displays in Fahrzeugen und weitere Formen von Head-Mounted-Displays.
  • Allgemein handelt es sich bei solchen AR-Endgeräten somit um Erfassungs- und Anzeigevorrichtungen, mittels welcher ein Sichtbereich erfassbar und virtuelle Inhalte in den Sichtbereich einblendbar sind. Hierzu kann zur Erfassung eine Kamera oder dergleichen vorgesehen sein und zum Einblenden der Informationen eine geeignete Bilddarstellungs- oder Anzeigeeinheit, beispielsweise mit halbdurchlässigen oder auch undurchlässigen Bildschirmen. Zudem ist eine geeignete Verarbeitungseinheit oder Recheneinheit üblich.
  • Für eine perspektivisch korrekte Darstellung der AR-Inhalte sollten bei mobilen AR-Endgeräten ein Koordinatensystem der realen Umgebung und ein Koordinatensystem des AR-Endgeräts permanent in Beziehung gesetzt werden. Dies kann unter anderem durch die Kamera bzw. die entsprechende Erfassungskomponente des AR-Endgerätes erfolgen.
  • Aus einem Bilddatenstrom der Kamera können dann eine Position und Lage des Betrachters bzw. Nutzers relativ zu einem betreffenden Objekt (oder speziell darauf angebrachten Markern) ermittelt bzw. berechnet und so eine korrekte Positionierung und Orientierung der einzufügenden virtuellen Inhalte bestimmt werden.
  • In vielen möglichen Einsatzszenarien wie z.B. in industriellen Fertigungen oder im Straßenverkehr kann sich jedoch das Problem ergeben, dass die eingeblendeten, virtuellen Inhalte wichtige reale Objekte im Sichtfeld des Nutzers verdecken.
  • Aus der US 2016/0027212 A1 ist beispielsweise eine AR-Brille bekannt, bei der eingeblendete Informationen ausgeblendet werden, wenn ein Nutzer sich einem realen Objekt auf einen bestimmten Abstand nähert.
  • Offenbarung der Erfindung
  • Erfindungsgemäß werden ein Verfahren und ein System zum Betreiben einer Erfassungs- und Anzeigevorrichtung mit den Merkmalen der unabhängigen Patentansprüche vorgeschlagen. Vorteilhafte Ausgestaltungen sind Gegenstand der Unteransprüche sowie der nachfolgenden Beschreibung.
  • Die Erfindung betrifft ein Verfahren zum Betreiben einer Erfassungs- und Anzeigevorrichtung, mittels welcher ein Sichtbereich erfassbar und virtuelle Inhalte in den Sichtbereich einblendbar sind. Wie schon erwähnt, wird eine solche Erfassungs- und Anzeigevorrichtung auch als Augmented-Reality-Endgerät bezeichnet und es kann sich beispielsweise um ein Smartphone oder Tablet, besonders bevorzugt aber auch eine AR-Brille handeln. Ebenso denkbar ist aber ein Head-Up-Display oder dergleichen.
  • Dabei wird der Sichtbereich mittels der Erfassungs- und Anzeigevorrichtung erfasst und es wird wenigstens ein, in dem Sichtbereich vorhandenes, erfasstes Objekt ermittelt. Mittels wenigstens einer zu der Erfassungs- und Anzeigevorrichtung externen Datenquelle werden zudem Informationen zu dem wenigstens einen, in dem Sichtbereich vorhandenen Objekt erm ittelt.
  • Die wenigstens eine externe Datenquelle ist dabei insbesondere ausgewählt aus: Kameras, Funkmodulen, Steuereinheiten für als automatisiert bewegbare Geräte ausgebildete Objekte, an Objekten angebrachte Sensoren, mittels Maschinenlernen in Bezug auf einen wiederholt ausgeführten Ablauf in Bezug auf das wenigstens eine Objekt und/oder den einzublenden virtuellen Inhalt gewonnene Daten, und Pläne mit Positionsinformationen zu dem wenigstens eine Objekt. Es gibt somit verschiedene Möglichkeiten, zusätzliche Informationen über das wenigstens eine Objekt im Sichtbereich zu sammeln. Solche Informationen können insbesondere eine Position und/oder eine Orientierung und/oder eine Bewegungsrichtung und/oder einen zukünftigen Bewegungsverlauf (im Sinne einer Route oder eine geplanten Route) des wenigstens einen Objekts umfassen.
  • Neben Informationen aus externen Datenquellen können jedoch auch Sensoren oder dergleichen der Erfassungs- und Anzeigevorrichtung selbst verwendet werden. So können Position und Orientierung der von einem Nutzer verwendeten Erfassungs- und Anzeigevorrichtung kontinuierlich geschätzt werden, sodass daraus der Sichtbereich des Nutzers in Beziehung zu den Informationen der externen Datenquellen gesetzt werden kann. Genutzt werden können hierzu beispielsweise Time-of-Flight-Verfahren, die gewünschte Informationen aus Messungen der Funkkommunikation gewinnen können.
  • Basierend auf den mittels der wenigstens einen externen Datenquelle ermittelten Informationen wird dann bestimmt, ob für das wenigstens eine Objekt in dem Sichtbereich ein Konflikt mit einzublendenden virtuellen Inhalten vorliegt, und, falls ein Konflikt vorliegt, wird wenigstens eine Gegenmaßnahme getroffen.
  • Unter einem Konflikt ist dabei insbesondere zu verstehen bzw. es wird bestimmt, dass für das wenigstens eine Objekt in dem Sichtbereich ein Konflikt mit einzublendenden virtuellen Inhalten vorliegt, wenn das wenigstens eine Objekt gemäß vorgebbarer Kriterien eine Gefahr für einen Nutzer der Erfassungs- und Anzeigevorrichtung darstellt oder darstellen wird, und/oder, wenn der einzublendende virtuelle Inhalt gemäß vorgebbarer Kriterien eine Nutzungseinschränkung für einen Nutzer der Erfassungs- und Anzeigevorrichtung in Bezug auf das wenigstens eine Objekt darstellt oder darstellen wird, und/oder, wenn das wenigstens eine Objekt wenigstens teilweise, insbesondere auch vollständig, durch den einzublendenden virtuellen Inhalt verdeckt wird. Unter den erwähnten Kriterien sind dabei insbesondere Bewertungskriterien zu verstehen, die beispielsweise geeignet sind, eine potentielle Gefahr abzuschätzen, also beispielsweise eine Wahrscheinlichkeit, dass ein Objekt auf den Nutzer zufährt. Sowohl eine potentielle Gefahr als auch eine potentielle Nutzungseinschränkung können dabei durch ein zumindest teilweises Verdecken des wenigstens einen Objekts durch den einzublenden Inhalt umfassen. So kann beispielsweise eine vom Nutzer zu benutzendes Werkzeug als Objekt, oder auch seine Hand, durch den einzublenden Inhalt verdeckt werden, was zu einer Nutzungseinschränkung führt. Das Verdecken eines Fahrzeugs wie beispielsweise eines Gabelstaplers kann hingegen zu einer Gefahr führen.
  • Besonders bevorzugt ist auch, wenn das wenigstens eine Objekt in dem Sichtbereich klassifiziert wird, wobei die wenigstens eine Gegenmaßnahme und/oder die Bestimmung, ob für das wenigstens eine Objekt in dem Sichtbereich ein Konflikt mit einzublendenden virtuellen Inhalten vorliegt, in Abhängigkeit von der Klassifizierung vorgenommen wird. Eine solche Klassifizierung kann beispielsweise die Einordnung in eine von mehreren Gruppen umfassen, die beispielsweise unterschiedliche Gefahrenstufen repräsentieren. Je nach Klassifizierung kann dann beispielsweise sofort eine Warnung erfolgen, oder aber es kann zunächst auch noch eine vorgegebenen Zeitdauer abgewartet werden, bis eine Warnung erfolgt. Denkbar ist auch eine Unterscheidung nach Art der Warnung. Ebenso ist denkbar, dass bei bestimmten Objekten wie beispielsweise einem Gabelstapler oder dergleichen immer bestimmt wird, dass ein Konflikt vorliegt (insbesondere auch unabhängig davon, ob er von dem einzublenden Inhalt verdeckt wird) oder, mit anderen Worten, immer die Gegenmaßnahme erfolgt.
  • In einem industriellen Umfeld sind als externe Datenquellen zudem beispielsweise die folgenden zweckmäßig. Gibt es in der unmittelbaren Umgebung des Nutzers Kameras (z.B. Überwachungs- oder Wärmebildkameras) können diese ebenfalls genutzt werden, um Informationen über die Position des Nutzers und der Objekte in seiner Umgebung - und damit auch der Objekte im Sichtfeld - zu extrahieren. Es können nicht nur optische Marker zur visuellen Objekterkennung auf besonders relevanten Objekten aufgebracht werden, sondern beispielweise auch RFID-Tags, Bluetooth- oder Bluetooth-LE-Chips und weitere Lösungen aus der Welt der Funkkommunikation in Betracht gezogen werden. Mit entsprechenden Empfängern können dann Informationen über die Positionen der markierten Objekte erhalten werden.
  • Außerdem kommen auch industrielle Steuerungen und Sensoren in Betracht, um Informationen über Objekte zu erhalten. Beispielsweise kann die exakte Position eines beweglichen Roboterarms ausgelesen und in einer darauffolgenden Konflikterkennung berücksichtigt werden. Ein Maschinenlernen bzw. entsprechende Algorithmen können herangezogen werden, um ein Nutzerverhalten auf Auffälligkeiten zu untersuchen. Verschiebt zum Beispiel ein Nutzer immer am gleichen Standort (und bei gleicher Orientierung) virtuelle Inhalte auf seinem Anzeigegerät, deutet dies darauf hin, dass ein für ihn relevantes Objekt verdeckt wird.
  • Im Beispiel des Straßenverkehrs können solche externen Datenquellen andere Fahrzeuge oder auch eine Infrastruktur (beispielsweise in Lichtzeichenanlagen verbaute Kommunikationseinheiten) sein. Durch einen vermehrten Einsatz von kabellosen Kommunikationstechniken können auf diese Weise Informationen für eine Weiterverarbeitung gesammelt werden.
  • Mit dem vorgeschlagenen Verfahren kann somit in vielen möglichen Einsatzszenarien (wie erwähnt z.B. in industriellen Fertigungen oder im Straßenverkehr) das Problem, dass die einzublendenden, virtuellen Inhalte wichtige reale Objekte im Sichtbereich des Nutzers verdecken können, behoben werden, indem ermittelt wird, ob ein Konflikt vorliegt. Durch die Verwendung der externen Datenquellen kann damit eine deutlich genauere bzw. bessere Beurteilung erfolgen, ob tatsächlich ein Konflikt vorliegt, da alleine durch die Erfassung der Objekte durch die Erfassungs- und Anzeigevorrichtung oftmals Unzulänglichkeiten vorliegen. So kann beispielsweise eine zukünftige Bewegung - beispielsweise ob ein auf den Nutzer zukommendes Fahrzeug rechtzeitig abbiegen wird oder nicht - nicht erkannt werden. Wird jedoch beispielsweise eine Information aus einem Steuergerät dieses Fahrzeugs bezogen, ist dies möglich. So können nicht nur besser Konflikte erkannt, sondern auch gar nicht entstehende Konflikte als solche erkannt werden.
  • Beispielsweise könnte im industriellen Kontext eine AR-Anwendung auch einen Arbeiter an einem Montagearbeitsplatz mit Schritt-für-Schritt-Anleitungen bei seiner Tätigkeit unterstützen. Dieser möchte jedoch beispielsweise gerne zu jedem Zeitpunkt seine Hände und eventuell eingesetzte, handgeführte Arbeitsmittel im Blick haben. Mit dem vorgeschlagenen Verfahren kann dies - mit den Händen des Nutzers als Objekte im Sichtbereich - erreicht werden.
  • Es existieren auch andere Szenarien, in denen der Nutzer durch die Überblendungen von Gefahrenquellen einem Risiko ausgesetzt wird. Dabei kann es sich zum Beispiel um andere Personen, Fahrzeuge, Hindernisse oder gefährliche Gegenstände wie heiße Rohre etc. handeln. Mindestens ebenso schwer wiegt die mögliche Verdeckung von sicherheitsrelevanten Informationen oder Bedienelementen wie Signallampen, Warnschildern und Notaustastern. Kann ein Nutzer aufgrund einer solchen Überblendung im Notfall nicht oder nur verspätet reagieren, besteht unmittelbare Lebensgefahr.
  • Im Beispiel des Straßenverkehrs kann der Fahrer grundsätzlich davon profitieren, wenn zusätzliche Information wie Navigation oder Fahrzeugdaten in seinem Sichtfeld dargestellt werden. Dadurch kann er fortlaufend seinen Blick auf die Straße richten und muss nicht auf einen anderen Bildschirm schauen. Wenn durch diese virtuellen Einblendungen in seinem Sichtbereich jedoch andere Fahrzeuge, Schilder oder dergleichen verdeckt werden, können sich schwerwiegende Gefahren ergeben.
  • Vorzugsweise umfasst die wenigstens eine Gegenmaßnahme, um den Konflikt zu beheben, dass ein Nutzer der Erfassungs- und Anzeigevorrichtung gewarnt wird, insbesondere mittels eines optischen und/oder akustischen und/oder taktilen Signals. Als taktiles Signal kommt beispielsweise ein Vibration bzw. ein Vibrationsalarm in Betracht. Auf diese Weise kann der Nutzer beispielsweise die Erfassungs- und Anzeigevorrichtung entfernen und auf eine mögliche Gefahr reagieren.
  • Vorteilhafterweise umfasst die wenigstens eine Gegenmaßnahme (zusätzlich oder alternativ), dass der einzublendende, virtuelle Inhalt hinsichtlich seiner Darstellung in dem Sichtbereich verändert eingeblendet wird. Hierzu kann der einzublendende, virtuelle Inhalt hinsichtlich seiner Darstellung in dem Sichtbereich verändert eingeblendet werden, indem der virtuelle Inhalt zumindest teilweise transparent dargestellt wird, insbesondere in einem Bereich, indem sich das wenigstens eine Objekt befindet. Damit kann ein Nutzer weiterhin das relevante Objekt sehen, zudem aber auch die eingeblendete Information. Ebenso kann der virtuelle Inhalt an einer anderen Position in dem Sichtfeld dargestellt werden, insbesondere außerhalb eines Bereichs, indem sich das wenigstens eine Objekt befindet. Auch kann der virtuelle Inhalt zumindest zeitweise nicht eingeblendet werden.
  • Zweckmäßigerweise wird hierbei aber auch immer ein von dem einzublendenden, virtuellen Inhalt freizubleibender Bereich in dem Sichtbereich ermittelt, in den der virtuelle Inhalt nicht eingeblendet wird. Durch die erwähnten Maßnahmen können potentielle Gefahren vermieden werden, während die nötigen einzublendenden Inhalte den Nutzer dennoch erreichen.
  • Die nötigen Schritte oder Vorgänge können dabei zwar direkt mittels der Erfassungs- und Anzeigevorrichtung bzw. einer darin enthaltenen Verarbeitungs- oder Recheneinheit durchgeführt werden (wobei aber die Informationen von den externen Datenquellen dann dorthin übermittelt werden müssen). Besonders bevorzugt ist es aber, hierzu ein zusätzliches bzw. externes Rechensystemen, insbesondere einen sog. Edge-Server, d.h. eine der Umgebung des Benutzers zugeordnete Recheneinheit, zu verwenden, da damit eine Verarbeitung in Echtzeit einfacher möglich ist.
  • Damit wird also der mittels der Erfassungs- und Anzeigevorrichtung erfasste Sichtbereich auf das Rechensystem übermittelt und mittels des Rechensystems wird dann das wenigstens eine, in dem Sichtbereich vorhandene, erfasste Objekt ermittelt. Die mittels der wenigstens einen externen Datenquelle ermittelten Informationen werden ebenfalls auf das Rechensystem übermittelt und mittels des Rechensystems wird dann bestimmt wird, ob für das wenigstens eine Objekt in dem Sichtbereich ein Konflikt mit einzublendenden virtuellen Inhalten vorliegt, und, falls ein Konflikt vorliegt, wird die wenigstens eine Gegenmaßnahme ebenfalls mittels des Rechensystems ermittelt bzw. getroffen. Die letztlich an die Erfassungs- und Anzeigevorrichtung übermittelten Informationen beinhalten dann schon, dass der einzublendende Inhalt entsprechend verändert eingeblendet wird.
  • Ein erfindungsgemäßes System mit einer Erfassungs- und Anzeigevorrichtung, wenigstens einer externen Datenquelle und vorzugsweise einem Rechensystem, ist, insbesondere programmtechnisch, dazu eingerichtet, ein erfindungsgemäßes Verfahren durchzuführen.
  • Auch die Implementierung des Verfahrens in Form eines Computerprogramms ist vorteilhaft, da dies besonders geringe Kosten verursacht, insbesondere wenn ein ausführendes Steuergerät noch für weitere Aufgaben genutzt wird und daher ohnehin vorhanden ist. Geeignete Datenträger zur Bereitstellung des Computerprogramms sind insbesondere magnetische, optische und elektrische Speicher, wie z.B. Festplatten, Flash-Speicher, EEPROMs, DVDs u.a.m. Auch ein Download eines Programms über Computernetze (Internet, Intranet usw.) ist möglich.
  • Weitere Vorteile und Ausgestaltungen der Erfindung ergeben sich aus der Beschreibung und der beiliegenden Zeichnung.
  • Es versteht sich, dass die vorstehend genannten und die nachfolgend noch zu erläuternden Merkmale nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder in Alleinstellung verwendbar sind, ohne den Rahmen der vorliegenden Erfindung zu verlassen.
  • Die Erfindung ist anhand eines Ausführungsbeispiels in der Zeichnung schematisch dargestellt und wird im Folgenden unter Bezugnahme auf die Zeichnung ausführlich beschrieben.
  • Figurenliste
    • 1 zeigt schematisch eine Fabrikumgebung mit einem erfindungsgemäßen System in einer bevorzugten Ausführungsform, mit dem ein erfindungsgemäßes Verfahren durchführbar ist.
    • 2 zeigt schematisch eine Erfassungs- und Anzeigevorrichtung mit Sichtbereich zur Erläuterung eines erfindungsgemäßen Verfahrens in einer bevorzugten Ausführungsform.
    • 3 zeigt schematisch einen Ablauf eines erfindungsgemäßen Verfahrens in einer weiteren bevorzugten Ausführungsform.
  • Detaillierte Beschreibung der Zeichnung
  • In 1 ist schematisch eine Fabrikumgebung 200, d.h. eine Umgebung zur industriellen Fertigung, mit einem erfindungsgemäßen System 100 in bevorzugter Ausführungsform, mit dem ein erfindungsgemäßes Verfahren durchführbar ist, dargestellt. Bei der Fabrikumgebung kann es sich beispielsweise um eine Werkshalle handeln.
  • In der Fabrikumgebung 200 sind hierbei beispielhaft eine Fertigungsanlage 210 und ein Fahrzeug 220 gezeigt. Bei dem Fahrzeug 220 kann es sich um ein automatisiert bewegtes Fahrzeug handeln, das eine vorgegebene Bewegungsroute bzw. einen vorgegebenen Bewegungsverlauf B hat. In der Fabrikumgebung 200 befindet sich zudem eine Person 230.
  • Das System 100 umfasst eine Erfassungs- und Anzeigevorrichtung 150, die beispielhaft als AR-Brille ausgebildet ist und die die Person 230 als Nutzer trägt, ein Rechensystem 110 sowie verschiedene externe Datenquellen. Diese externen Datenquellen umfassen beispielhaft mehrere Kameras 120 sowie eine an bzw. in dem Fahrzeug 220 vorhandene Steuereinheit 122. Sowohl die Kameras 120 als auch die Steuereinheit 122 können drahtlos mit dem Rechensystem 110 kommunizieren und dorthin Informationen übertragen. Ebenso können (drahtlos) Informationen zwischen der AR-Brille 150 und dem Rechensystem 110 ausgetauscht werden.
  • In 2 ist schematisch die als AR-Brille ausgebildete Erfassungs- und Anzeigevorrichtung 150 aus 1 mit zugehörigem Sichtbereich 155, anhand der ein erfindungsgemäßes Verfahren in einer bevorzugten Ausführungsform erläutert werden soll, zweifach dargestellt.
  • In der oberen Darstellung ist, entsprechend der 1, die Fertigungsanlage 210 (bzw. eine vergleichbare Anlage) zu sehen. Rechts ist im Sichtbereich 155 ein virtueller Inhalt 151 eingeblendet, beispielsweise eine Anweisung für den Nutzer der AR-Brille, was er mit der Fertigungsanlage 210 machen soll.
  • Durch den eingeblendeten, virtuellen Inhalt 151 wird nun jedoch ein sich ebenfalls im Sichtbereich befindliches Objekt, nämlich das in 1 dargestellte Fahrzeug 220, verdeckt. Für den Fall, dass sich dieses Fahrzeug 220 auf den Nutzer zubewegen sollte, stellt dies eine potentielle Gefahr dar, die der Nutzer aufgrund der Verdeckung jedoch nicht erkennen kann.
  • Mit dem vorgeschlagenen Verfahren kann ein solcher Konflikt jedoch erkannt werden und der einzublendende virtuelle Inhalt kann verändert dargestellt werden, wie in der unteren Darstellung mit 151' bezeichnet. Im gezeigten Beispiel ist der virtuelle Inhalt nach links verschoben bzw. an einer anderen Position dargestellt und zugleich teilweise transparent, d.h. es wird nur eine Schrift mit Umrahmung eingeblendet, nicht jedoch ein flächiger Hintergrund.
  • Damit kann der Nutzer sowohl das sich auf ihn zu bewegende Fahrzeug 220 sehen als auch die nötigen Anweisungen. Zudem wird auch die Sicht auf die Fertigungsanlage 210 weitestgehend erhalten. Wie erwähnt, wäre es - je nach Situation - auch denkbar, den virtuellen Inhalt nur zu verschieben oder nur teilweise transparent darzustellen, insbesondere wenn ausreichend freier Platz zur Darstellung zur Verfügung steht. Denkbar ist aber auch ein zeitweises Ausblenden bzw. Nicht-Einblenden des virtuellen Inhalts.
  • Es sei angemerkt, dass beispielsweise durch die Steuereinheit 122 des Fahrzeugs 220 als eine externe Datenquelle der zukünftige Bewegungsverlauf des Fahrzeugs 220 berücksichtigt werden kann, was ohne externe Datenquellen in der Regel nicht möglich ist.
  • Weiterhin sei angemerkt, dass - je nach Art des einzublenden virtuellen Inhalts - ggf. auch darauf geachtet werden kann, dass ein Bezug zu realen Objekten, im gezeigten Beispiel der Fertigungsanlage 210 erhalten bleibt, beispielsweise durch einen Pfeil, der darauf zeigt oder dergleichen.
  • In 3 ist schematisch ein Ablauf eines erfindungsgemäßen Verfahrens in einer weiteren bevorzugten Ausführungsform dargestellt. Zunächst wird im Schritt 301 mittels der Erfassungs- und Anzeigevorrichtung, bzw. insbesondere dessen Kamera, ein Sichtbereich erfasst und ein unbearbeitetes Videosignal erzeugt.
  • In einem optionalen Schritt 302 können Bewegungsdaten der Erfassungs- und Anzeigevorrichtung wie Lage bzw. Position, Beschleunigung und Drehrate erfasst werden, die bei der späteren Bestimmung der Position und Orientierung der Erfassungs- und Anzeigevorrichtung im Raum hilfreich sind.
  • In einem Schritt 303 werden weitere Information außerhalb der Erfassungs- und Anzeigevorrichtung, d.h. von externen Datenquellen, gesammelt. Die jeweiligen Daten bzw. Information, die in den Schritten 301, 302 und 303 ermittelt wurden, wenn dann an ein (externes) Rechensystem übermittelt und dort verarbeitet.
  • So wird in einem Schritt 310 beispielsweise eine Beziehung eines Koordinatensystems der realen Umgebung und ein Koordinatensystem der Erfassungs- und Anzeigevorrichtung bestimmt. Dazu kann z.B. eine optische Bilderkennung auf das Videosignal der Kamera der Erfassungs- und Anzeigevorrichtung bzw. deren Inhalte angewandt werden.
  • Zudem wird in einem Schritt 311 ermittelt bzw. bestimmt, ob ein Konflikt für ein Objekt in dem Sichtbereich mit einzublendenden virtuellen Inhalten vorliegt. Denkbar ist dabei auch die Ermittlung von Bereichen im Sichtbereich, die auf jeden Fall nicht durch einzublendende Informationen verdeckt werden dürfen.
  • In einem Schritt 320 wird dann, wenn ein Konflikt vorliegt, eine veränderte Darstellung der einzublendenden virtuellen Inhalte ermittelt. Diese werden dann wieder an die Erfassungs- und Anzeigevorrichtung übermittelt, in der sie dann in einem Schritt 330 eingeblendet werden.
  • Auf diese Weise wird also vermieden, dass ein Nutzer einer AR-Brille oder einer anderen Erfassungs- und Anzeigevorrichtung durch sich auf ihn zu bewegenden oder anderweitig gefährliche Objekte gefährdet wird, die er aufgrund eingeblendeter Informationen nicht sehen kann.
  • ZITATE ENTHALTEN IN DER BESCHREIBUNG
  • Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.
  • Zitierte Patentliteratur
    • US 2016/0027212 A1 [0007]

Claims (13)

  1. Verfahren zum Betreiben einer Erfassungs- und Anzeigevorrichtung (150), mittels welcher ein Sichtbereich (155) erfassbar und virtuelle Inhalte (151, 151') in den Sichtbereich (155) einblendbar sind, wobei der Sichtbereich (155) mittels der Erfassungs- und Anzeigevorrichtung (150) erfasst und wenigstens ein, in dem Sichtbereich (155) vorhandenes, erfasstes Objekt (220) ermittelt wird, wobei mittels wenigstens einer zu der Erfassungs- und Anzeigevorrichtung externen Datenquelle (120, 122) Informationen zu dem wenigstens einen, in dem Sichtbereich (155) vorhandenen Objekt (220) ermittelt werden, wobei basierend auf den mittels der wenigstens einen externen Datenquelle (120, 122) ermittelten Informationen bestimmt wird, ob für das wenigstens eine Objekt (220) in dem Sichtbereich (155) ein Konflikt mit einzublendenden virtuellen Inhalten (151) vorliegt, und wobei, falls ein Konflikt vorliegt, wenigstens eine Gegenmaßnahme getroffen wird.
  2. Verfahren nach Anspruch 1, wobei die wenigstens eine Gegenmaßnahme umfasst, dass ein Nutzer (230) der Erfassungs- und Anzeigevorrichtung (150) gewarnt wird, insbesondere mittels eines optischen und/oder akustischen und/oder taktilen Signals.
  3. Verfahren nach Anspruch 1 oder 2, wobei die wenigstens eine Gegenmaßnahme umfasst, dass der einzublendende, virtuelle Inhalt (151') hinsichtlich seiner Darstellung in dem Sichtbereich (155) verändert eingeblendet wird.
  4. Verfahren nach Anspruch 3, wobei der einzublendende, virtuelle Inhalt (151') hinsichtlich seiner Darstellung in dem Sichtbereich (155) verändert eingeblendet wird, indem der virtuelle Inhalt (151') zumindest teilweise transparent dargestellt wird, insbesondere in einem Bereich, indem sich das wenigstens eine Objekt (220) befindet, und/oder, indem der virtuelle Inhalt (151') an einer anderen Position in dem Sichtbereich (155) dargestellt wird, insbesondere außerhalb eines Bereichs, indem sich das wenigstens eine Objekt (220) befindet, und/oder indem der virtuelle Inhalt (151') zumindest zeitweise nicht eingeblendet wird.
  5. Verfahren nach Anspruch 3 oder 4, wobei weiterhin ein von dem einzublendenden, virtuellen Inhalt freizubleibender Bereich in dem Sichtbereich (155) ermittelt wird, in den der virtuelle Inhalt nicht eingeblendet wird.
  6. Verfahren nach einem der vorstehenden Ansprüche, wobei bestimmt wird, dass für das wenigstens eine Objekt (220) in dem Sichtbereich (155) ein Konflikt mit einzublendenden virtuellen Inhalten (151) vorliegt, wenn das wenigstens eine Objekt (220) gemäß vorgebbarer Kriterien eine Gefahr für einen Nutzer (230) der Erfassungs- und Anzeigevorrichtung (150) darstellt oder darstellen wird, und/oder wenn der einzublendende virtuelle Inhalt (151) gemäß vorgebbarer Kriterien eine Nutzungseinschränkung für einen Nutzer (230) der Erfassungs- und Anzeigevorrichtung (150) in Bezug auf das wenigstens eine Objekt (220) darstellt oder darstellen wird, und/oder, wenn das wenigstens eine Objekt (220) wenigstens teilweise durch den einzublendenden virtuellen Inhalt (151) verdeckt wird.
  7. Verfahren nach einem der vorstehenden Ansprüche, wobei das wenigstens eine Objekt (220) in dem Sichtbereich (155) klassifiziert wird, und wobei die wenigstens eine Gegenmaßnahme und/oder die Bestimmung, ob für das wenigstens eine Objekt (220) in dem Sichtbereich (155) ein Konflikt mit einzublendenden virtuellen Inhalten (151) vorliegt, in Abhängigkeit von der Klassifizierung vorgenommen wird.
  8. Verfahren nach einem der vorstehenden Ansprüche, wobei die mittels der wenigstens einen externen Datenquelle (120, 122) ermittelten Informationen eine Position und/oder eine Orientierung und/oder eine Bewegungsrichtung und/oder einen zukünftigen Bewegungsverlauf (B) des wenigstens einen Objekts (220) umfassen.
  9. Verfahren nach einem der vorstehenden Ansprüche, wobei die wenigstens eine externe Datenquelle (120, 122) ausgewählt ist aus: Kameras, Funkmodulen, Steuereinheiten für als automatisiert bewegbare Geräte ausgebildete Objekte, an Objekten angebrachte Sensoren, mittels Maschinenlernen in Bezug auf einen wiederholt ausgeführten Ablauf in Bezug auf das wenigstens eine Objekt und/oder den einzublenden virtuellen Inhalt gewonnene Daten, und Plänen mit Positionsinformationen zu dem wenigstens eine Objekt.
  10. Verfahren nach einem der vorstehenden Ansprüche, wobei der mittels der Erfassungs- und Anzeigevorrichtung (150) erfasste Sichtbereich (155) auf ein Rechensystem (110) übermittelt und mittels des Rechensystems (110) das wenigstens eine, in dem Sichtbereich (155) vorhandene, erfasste Objekt (220) ermittelt wird, wobei die mittels der wenigstens einen externen Datenquelle (120, 122) ermittelten Informationen auf das Rechensystem (110) übermittelt werden, wobei mittels des Rechensystems (110) bestimmt wird, ob für das wenigstens eine Objekt (220) in dem Sichtbereich (155) ein Konflikt mit einzublendenden virtuellen Inhalten (151) vorliegt, und wobei, falls ein Konflikt vorliegt, die wenigstens eine Gegenmaßnahme mittels des Rechensystems (110) ermittelt wird.
  11. System (100) einer Erfassungs- und Anzeigevorrichtung (150), wenigstens einer externen Datenquelle (120, 122) und vorzugsweise einem Rechensystem (110), wobei das System (100) dazu eingerichtet ist, ein Verfahren nach einem der vorstehenden Ansprüche durchzuführen.
  12. Computerprogramm, das ein System (100) veranlasst, ein Verfahren nach einem der Ansprüche 1 bis 10 durchzuführen, wenn es auf dem System (100) ausgeführt wird.
  13. Maschinenlesbares Speichermedium mit einem darauf gespeicherten Computerprogramm nach Anspruch 12.
DE102018217834.8A 2018-10-18 2018-10-18 Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung Pending DE102018217834A1 (de)

Priority Applications (1)

Application Number Priority Date Filing Date Title
DE102018217834.8A DE102018217834A1 (de) 2018-10-18 2018-10-18 Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102018217834.8A DE102018217834A1 (de) 2018-10-18 2018-10-18 Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung

Publications (1)

Publication Number Publication Date
DE102018217834A1 true DE102018217834A1 (de) 2020-04-23

Family

ID=70468284

Family Applications (1)

Application Number Title Priority Date Filing Date
DE102018217834.8A Pending DE102018217834A1 (de) 2018-10-18 2018-10-18 Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung

Country Status (1)

Country Link
DE (1) DE102018217834A1 (de)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020116976A1 (de) 2020-06-26 2021-12-30 Bayerische Motoren Werke Aktiengesellschaft Steuerung einer Anzeigevorrichtung an Bord eines Fahrzeugs

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160027212A1 (en) 2014-07-25 2016-01-28 Alexandre da Veiga Anti-trip when immersed in a virtual reality environment

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160027212A1 (en) 2014-07-25 2016-01-28 Alexandre da Veiga Anti-trip when immersed in a virtual reality environment

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020116976A1 (de) 2020-06-26 2021-12-30 Bayerische Motoren Werke Aktiengesellschaft Steuerung einer Anzeigevorrichtung an Bord eines Fahrzeugs

Similar Documents

Publication Publication Date Title
DE102014002150B3 (de) Verfahren zur Ermittlung der absoluten Position einer mobilen Einheit und mobile Einheit
DE102017107396A1 (de) Testverfahren und Testvorrichtung für Fahrerassistenzsysteme
EP3055650A1 (de) Verfahren und vorrichtung zur augmentierten darstellung
WO2015155029A1 (de) Lokalisierung eines head-mounted displays (hmd) im fahrzeug
DE112014004889T5 (de) Systeme und Verfahren zum Anzeigen von dreidimensionalen Bildern auf einer Fahrzeug-Instrumentenkonsole
DE102020130674A1 (de) Fahrzeugposenerfassung mit bezugsmarker
DE102012107886A1 (de) Verfahren zur elektronischen Erkennung von Verkehrszeichen
DE102014008152A1 (de) Verfahren und Vorrichtung zur augmentierten Darstellung mindstens einer Zusatzinformation in mindestens einem Bild einer Umgebung
DE102018215186A1 (de) Konzept zum Überwachen und Planen einer Bewegung eines Fortbewegungsmittels
DE102016211227A1 (de) Verfahren und Fahrzeugsteuersystem zum Erzeugen von Abbildungen eines Umfeldmodells und entsprechendes Fahrzeug
DE102018132921A1 (de) Verfahren zum Betreiben eines Feldgeräts der Automatisierungstechnik in einer Augmented-Reality/Mixed-Reality- Umgebung
DE102020122876A1 (de) Zeitmultiplexierte anzeige für ein fahrzeug
DE102018217834A1 (de) Verfahren und System zum Betreiben einer Erfassungs- und Anzeigevorrichtung
DE102006051539A1 (de) Verfahren und Vorrichtung zur luftbildgestützten Umgebungserfassung bei Kraftfahrzeugen
DE102009052868A1 (de) Verfahren zum Betrieb eines Fahrassistenzsystems eines Fahrzeugs
DE102012213132B4 (de) Verfahren und Vorrichtung zur Fusion von Kameraaufnahmen von zumindest zwei Fahrzeugen
WO2020193392A1 (de) Verfahren zur zielführung zu einer zielperson, elektronische vorrichtung der zielperson und elektronische vorrichtung des abholers sowie kraftfahrzeug
EP2703920B1 (de) Verfahren zum Einlernen der Steuerung einer Maschine
DE102019102423A1 (de) Verfahren zur Live-Annotation von Sensordaten
EP4186651B1 (de) System und verfahren mit einem system
DE102023002473B3 (de) Verfahren zur Erstellung eines Datensatzes mit Ground-Truth-Labeln
DE102016225082A1 (de) Verfahren und Vorrichtung zum Betreiben einer Datenbrille
DE102021210264B4 (de) Verfahren zum Ermitteln einer Position eines Haltebereichs für ein Fahrzeug und für einen potentiellen Passagier des Fahrzeugs
WO2024061654A1 (de) Verfahren und vorrichtung zur ermittlung einer brillenpose einer datenbrille mithilfe eines outside-in tracking
DE102023107897A1 (de) Verfahren und system zur unterstützung eines fahrers