JP2018139107A - 車両の周辺を表示する方法 - Google Patents

車両の周辺を表示する方法 Download PDF

Info

Publication number
JP2018139107A
JP2018139107A JP2018007098A JP2018007098A JP2018139107A JP 2018139107 A JP2018139107 A JP 2018139107A JP 2018007098 A JP2018007098 A JP 2018007098A JP 2018007098 A JP2018007098 A JP 2018007098A JP 2018139107 A JP2018139107 A JP 2018139107A
Authority
JP
Japan
Prior art keywords
virtual
vehicle
dimensional landscape
cover layer
virtual space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018007098A
Other languages
English (en)
Other versions
JP7103791B2 (ja
Inventor
ラファエル・カノ
Cano Raphael
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of JP2018139107A publication Critical patent/JP2018139107A/ja
Application granted granted Critical
Publication of JP7103791B2 publication Critical patent/JP7103791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/008Cut plane or projection plane definition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Architecture (AREA)
  • Remote Sensing (AREA)
  • Processing Or Creating Images (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】ドライバには見えない障害物との衝突を回避するために、ドライバのために車両の周辺の近い範囲を表示する方法を提供する。【解決手段】車両の周辺を表示する方法において、車両の周辺を表す3次元風景2を仮想空間1に作成し、移動する仮想要素3であって、面の形状を備え、所定の移動経路4にしたがって3次元風景を移動する仮想要素3を仮想空間1に生成し、所定の移動経路4に沿ったそれぞれの位置について仮想要素3と3次元風景2の表面との交線5を決定し、仮想空間1に配置された仮想カメラ6の視野からの3次元風景2を仮想カメラ画像において繰り返し再現し、連続する仮想カメラ画像からビデオシーケンスを生成し、ビデオシーケンスの個別画像に交線5を表示し、出力装置にビデオシーケンスを表示する。【選択図】図2

Description

本発明は、車両の周辺を表示する方法に関する。
運転支援システムは、車両の移動時に車両のドライバを支援するように適合されている。この場合、このような運転支援システムは、ドライバには見えない障害物との衝突を回避するために、ドライバのために車両の周辺の近い範囲を表示するように設計されていることが多い。このために、物体と車両との間に残された距離をドライバが容易に推定できるように、表示されたビデオ画像に合成要素が挿入されていることが多い。
最新のカメラシステムでは、このような合成要素は車両の実際の周辺にはぴったり適合しない正方形の色付きの面であることが多い。
本発明による車両の周辺を表示する方法は、
車両の周辺を表す3次元風景を仮想空間に作成し、
移動する仮想要素であって、面の形状を備え、所定の移動経路にしたがって3次元風景を移動する仮想要素を仮想空間に生成し、所定の移動経路に沿ったそれぞれの位置について仮想要素と3次元風景の表面との交線を決定し、
仮想空間に配置された仮想カメラの視野からの3次元風景を仮想カメラ画像において繰り返し再現し、連続する仮想カメラ画像からビデオシーケンスを生成し、ビデオシーケンスの個別画像に交線を表示し、
出力装置にビデオシーケンスを供給することを含む。
車両の周辺の表示を提供するための本発明による装置は計算ユニットを含み、計算ユニットは、
車両の周辺を表す3次元風景を仮想空間に作成し、
移動する仮想要素であって、面の形状を備え、所定の移動経路にしたがって3次元風景を移動する仮想要素を仮想空間に生成し、所定の移動経路に沿ったそれぞれの位置について、仮想要素と3次元風景の表面との交線を決定し、
仮想空間に配置された仮想カメラの視野からの3次元風景を仮想カメラ画像において繰り返し再現し、連続する仮想カメラ画像からビデオシーケンスを生成し、ビデオシーケンスの個々の画像に交線を表示し、
出力装置にビデオシーケンスを供給するように構成されている。
仮想空間は、計算ユニットによって生成される数学的構成である。換言すれば、3次元風景を作成する場合には、車両の周辺のコンピュータモデルが作成される。3次元風景は、車両の周辺の実際の物体を表す物体から組み立てられる。このようにして車両の周辺の3次元図が作成される。この場合、好ましくは、車両に配置されたセンサによって供給されるセンサデータが使用される。したがって、例えば超音波センサ、カメラ、ライダーシステム、又はその他の走査システムによって車両の周辺の物体の位置及び形状を検出することができる。特に3Dカメラによって、又は時間的に連続して撮影されたカメラの個別画像の3D評価(Structure from Motion:三次元形状復元)を用いて車両の周辺を検出することも好ましい。3次元風景は、例えば3次元画素(ボクセル)によって3次元マトリックスに表示される。
まず、仮想カメラの視野から3次元風景を表示する場合には、移動する仮想要素はグラフィック補助手段であり、透明であってもよく、必ずしも見ることはできない。仮想カメラは実際のカメラではなく、仮想空間、ひいては3次元風景の表示を計算する場合に視点となる仮想空間の一点である。仮想要素の形状及び寸法は一定であってもよいし、可変であってもよい。仮想要素は面の形状を備える。すなわち、仮想要素は深さを備えていない。しかしながら、このことは仮想要素が必ずしも平面であることを意味しない。すなわち、仮想要素は、例えば湾曲した面であってもよい。しかしながら、必要に応じて仮想要素及び/又は交線のグラフィック表示を可能にするために、実用的な理由から、グラフィック表示を可能にする仮想要素の面の厚さを仮定することもできる。
提供されたビデオシーケンスは、出力装置、特に車両の内部のディスプレイに表示される。このようにして車両のドライバに仮想空間の3次元風景が提供される。
表示された交線によって、ドライバに提供された風景に補助要素が挿入され、このような補助要素により、表示された風景における輪郭はドライバにとって容易に認識可能なものとなる。したがって、交線の変形は、物体が仮想空間、ひいては車両の実際の周辺に存在することを示す一義的な目に見えるインジケータである。
従属請求項は、本発明の好ましい実施形態を示す。
好ましくは、仮想空間における3次元風景の作成は、車両の周辺を再現するカメラ画像を検出し、検出されたカメラ画像によって3次元風景のテクスチャを作成することを含む。したがって、車両の周辺の実際の画像はテクスチャとして使用される。このようにして、特に車両の周辺のリアルな表示を達成することができる。
さらに好ましくは、投影面の3次元風景が車両の周辺に対応して形成されている。特に、投影面は、仮想空間における3次元網である。投影面は、特に間隙のない面であり、したがって、個々の連続した面である。3次元風景が個々の投影面によって表示されることにより、仮想要素と3次元風景の表面との関連し合う個々の交線のみが提供される。観察者はこのような交線を極めて容易に認識することができる。したがって、ドライバのいら立ちが防止される。
さらに、移動する仮想要素は拡大する要素であり、所定の移動経路に沿った移動によってこの要素の大きさが増すことは好ましい。このようにして、仮想要素、ひいては交線の長さを、例えば仮想カメラの視野に適合させることができる。したがって、仮想要素は、例えば波のように仮想空間に広がる。
好ましくは、仮想要素の拡大により仮想要素の移動がもたらされ、特に移動する仮想要素の重心は、移動時に同じ位置に保持される。したがって、仮想要素は、例えば中心点を中心として延在し、中心点から広がることができる。石が水中に落下する場合に生じる波面のように、仮想要素は起点から始まって仮想空間に広がる。この場合、別の移動経路が定義されており、これらの移動経路がそれぞれ仮想要素の異なる部分の動きを定義する場合には特に好ましい。特に、仮想要素の異なる部分が仮想空間において異なる方向に移動することは好ましい。このようにして、仮想要素によって一種の波動効果又はソナー効果を模倣することができる。このような表示は特に容易に解釈することができる。この場合、仮想要素の異なる範囲が同一の速度で起点から遠ざかる場合には特に好ましい。
所定の移動経路にしたがって仮想空間を周期的に連続して移動する複数の移動する仮想要素が時間的に連続して表示されることも好ましい。この場合、複数の移動する仮想要素もしくは仮想要素と3次元風景の表面との対応する交線を同時に3次元風景、ひいては仮想空間に表示することができる。したがって、上述の水中に落下する石の例の場合と同様に、複数の波面、すなわち複数の仮想要素が周期的に連続して仮想空間を通過することができる。
この場合、車両の周辺の所定の物体との間隔が減じられた場合に、周期的な連続の時間間隔が減じられることは好ましい。このようにして、特に車両のセンサによって、車両の周辺の所定の物体との間隔が決定される。この間隔に依存して周期的な連続の時間間隔が減じられる。したがって、移動経路に沿った所定の範囲について所定の時間間隔で同時に見ることができる仮想要素の数、ひいては交線の数が増大する。したがって周期的な連続の時間間隔を見れば、ビデオシーケンスの観察者は、所定の物体に接近することがわかる。同時に交線の表示が短時間に連続して増大され、これにより交線の表示が常に最新に保持される。
さらに好ましくは、交線に沿って仮想要素が移動した場合に、仮想空間にカバー層が生成される。交線は仮想要素と共に仮想空間を移動するので、観察時点において仮想要素、ひいては交線が配置されていない範囲についての情報を観察者に提供することも可能である。さらにこのようなカバー層によって、付加的な情報を光学的に提供することができる光学手段が得られる。
特にカバー層は、障害物が存在する車両の周辺の範囲に対応する交線の範囲にのみ生成される。特に障害物は、車線を表す範囲に対して3次元風景のある範囲が隆起している場合に存在している。したがって、カバー層は仮想空間において、障害物、例えば車両周辺の物体、例えば他の車両なども存在する場所にのみ生成される。このようにして、ビデオシーケンスの観察者の注意は、車両を移動する場合に特に重要となる範囲もしくは危険性を含む範囲に意識的に向けられる。
さらに好ましくは、生成されてから所定時間後にカバー層の範囲が仮想空間からフェードアウトする。これは、特にカバー層が再び消されるか、又はカバー層が、例えば透明になり、単にもはや表示されないことによって達成することができる。カバー層によって表示された情報はもはや最新ではないことを示すために色あせるように表示してもよい。したがって、時間的に連続して送信された異なる仮想要素に対応する複数のカバー層を表示することもできる。
この場合に、好ましくは、カバー層のそれぞれの点が仮想カメラに対してどのような間隔を有するのか、カバー層のそれぞれの点に対応する実際の車両周辺の点が車両に対してどのような間隔を有するのか、又はカバー層のそれぞれのカバー点が車両の移動軌道に関してどのように配置されているのかに依存して、カバー層の点の色又はテクスチャが選択される。このようにして、仮想空間内における間隔を推定することを可能にするインジケータがビデオシーケンスの観察者に提供される。
次に本発明の実施例を添付の図面を参照して詳細に説明する。
本発明の第1実施形態による車両の周辺を表示する例示的な方法を示すフロー図である。 本発明の第1実施形態による仮想空間の例示的な図である。 例示的な第1の仮想カメラ画像を示す図である。 例示的な第2の仮想カメラ画像を示す図である。 例示的な第3の仮想カメラ画像を示す図である。 例示的な第4の想カメラ画像を示す図である。 車両の周辺を表示するための本発明による装置を備える車両を示す図である。
図1は、本発明の第1実施形態による車両101の周辺200を表示する方法のフロー図を示す。この方法は、運転支援システムの計算ユニット100によって実施される。
方法は、車両101のドライバによって車両101の周辺200の表示が要求されるとすぐに開始される。方法が開始されるとすぐに第1方法ステップS1が実施される。
第1方法ステップS1では、仮想空間1における3次元風景2の作成が行われる。3次元風景2は車両101の周辺200を表す。
この第1実施形態では、3次元風景2は、車両101の周辺200に対応して形成された投影面である。図2は、仮想空間1、及び仮想空間1に表示された3次元風景2を例示している。投影面は基本的に皿の形状を備える。この皿又はボウルの内部に位置する仮想空間1の一点は、車両101が位置する現実世界の一点を表す。現実の車両101は、仮想空間1のモデル9として転写される。したがって、図2からもわかるように、車両101の仮想のモデル9は皿状の投影面の内部に配置されている。投影面は、車両101の周辺を模倣し、これにより3次元風景2を形成するように変形される。
第1方法ステップS1では、車両101のセンサ装置によって車両101の周辺の走査が行われる。したがって、例えば超音波センサ107、カメラ103,104,105,106及び/又はライダーシステムによって車両101の周辺200の障害物の位置及び形状が検出される。障害物の位置及び形状は、車両101に対する障害物の位置に対応して転写される。転写は、例えば、3次元画素(ボクセル)によって占領されている可能性を仮想空間1に設定することによって行うことができる。図2に示した実施例では、モデル9によって表された車両101の前方に別の車両がいる。したがって、モデル9の前方には占領された範囲8があり、この範囲8には、車両101の実際の周辺200の対応する範囲に障害物、この場合には別の車両が存在している。したがって、この占領された範囲8は閾値を超える多数の3次元画素により占領されている可能性がある。
投影面は、これらの3次元画素が投影面によって覆われるか、又は占領されているとマークされた3次元画素が皿の外側に位置するように変形される。投影面は、占領された範囲8において車道を表す皿の底部に対して隆起していることが図2に示されている。
第1方法ステップS1、すなわち仮想空間1における3次元風景2の作成は、さらに車両101の周辺200を再現するカメラ画像を検出し、検出されたカメラ画像を用いて3次元風景2のテクスチャを作成することを含む。したがって、車両101には複数のカメラ103,104,105,106が配置されており、これらのカメラの画像から車両101の周辺200が検出される。これらのカメラ画像は、テクスチャとして投影面、ひいては3次元風景2に配置される。この場合、所定の物体を表示する投影面の一点にこの物体を表すカメラ画像の範囲が配置される。
第1方法ステップS1の後には第2方法ステップS2が実施される。第2方法ステップS2では、仮想空間1において移動する仮想要素3の生成が行われる。
移動する仮想要素3は面の形状を備える。移動する仮想要素3は所定の移動経路4にしたがって仮想空間1、ひいては3次元風景2を移動させられる。図2には仮想要素3が平面として例示されている。これらの平面は、図2に示した平面から外側へ延在しており、したがって直線としてのみ認識可能である。面は必ずしも平面ではなく、例えば丸みをおびていてもよいことに留意されたい。
仮想要素3は所定の移動経路4に沿って移動する。図2では、移動経路4は、移動する仮想要素3が仮想空間を右から左へ移動するように選択されている。仮想要素3は仮想空間1を移動するので、この仮想要素3は何重かに示されている。したがって、第1仮想要素3aは第1時点の仮想要素であり、第2仮想要素3bは第2時点の仮想要素3であり、第3仮想要素3cは第3時点の仮想要素である。
仮想要素3は面として形成され、3次元風景2も形成された面によって作成されているので、仮想要素3が3次元風景2と接触する箇所には交線5が生じる。交線5は、所定の移動経路4に沿った仮想要素3のそれぞれの位置について決定される。このようにして、仮想要素2と3次元風景2の表面との交線5が決定される。
図2には、仮想要素3が表示されている時点における交線5も示されている。したがって、図2には第1時点の交線5である第1交線5aが示されている。第2交線5bは第2時点の交線5であり、第3交線5cは第3時点の交線5である。図2には、交線5は点としてのみ示されている。なぜなら、交線5は図2に示した図平面に入り込み、図平面から外側へ延在しているからである。
仮想要素3は、この第1実施形態では一定の大きさを備える。代替的な実施形態では、仮想要素3は拡大要素であり、所定の代替的な移動経路4′に沿った移動によって大きさが増す。このことは、図2に車両101のモデル9の後部の後方に例示されている。仮想要素3は必ずしも仮想空間1全体に延在していないことがわかる。この場合、仮想要素3は、異なる時点において仮想要素3d〜3fによって示されている。仮想要素3の面は、代替的な移動経路4′に沿った移動によって上昇、すなわち増大していることがわかる。
別の代替的な実施形態では、仮想要素3の移動が仮想要素3の拡大により生じる。この場合、特に仮想要素3の重心は移動時に同じ位置に保持される。したがって、仮想要素3は、例えば球又は円筒周面の形状を備える。球の例では、移動経路4の起点が球の中心であってもよい。仮想要素3の面は拡大し、したがって球の球半径も増大する。球の中心は変化せずに所定位置に保持される。したがって、面自体は移動しているにもかかわらず、移動時には仮想要素3の重心も同じ位置に保持される。この場合、仮想要素3の幾何学的な重心が重心とみなされる。このようにして、交線5が波及と同様に仮想空間1を移動する光学的な効果が生成される。
随意に、複数の仮想要素3が仮想空間1に同時に存在する。したがって、所定の移動経路4にしたがって仮想空間1を周期的に連続して移動する複数の仮想要素3を時間的に連続して表示することができる。これにより、仮想空間1を次々に移動又は波及する複数の波面が生成される。この場合、周期的な連続は、別の移動する仮想要素3が仮想空間1においてそれぞれ生成されるまでに経過する時間間隔によって定義される。この時間間隔は、特に柔軟に設定されている。したがって、時間間隔は、特に障害物に対する車両101の間隔に依存している。特に周期的な連続の時間間隔は、車両101の周辺の所定の物体、すなわち障害物と車両101との間の間隔が減じられた場合には減じられる。車両101が障害物に近くにいる場合には、周期的な連続は、高い周波数、すなわち短い時間間隔によって特徴づけられている。車両101の周辺200の所定の物体と車両101との間の間隔が大きい場合には、周期的な連続は低い周波数及び大きい時間間隔によって特徴づけられている。
第2方法ステップS2では、本発明のこの第1実施形態において、さらに交線5に沿って仮想要素3が移動した場合にカバー層7が仮想空間1に生成される。カバー層7は、例えばグラフィック要素であり、このようなグラフィック要素は3次元風景2のそれぞれの箇所で生成された場合に3次元風景2の表面に配置される。3次元風景2に色付けすることによってカバー層7を生成することもできる。カバー層7によって車両101のドライバに付加的な情報を提供することができるグラフィック要素が設けられる。
このために、特にカバー層7の色又はテクスチャが変更される。しかしながら、このような情報はある程度の時間が経過するとすぐに最新性を失うので、カバー層7の範囲は生成されてから所定時間後には仮想空間からフェードアウトされる。換言すれば、カバー層7は仮想要素3と共に移動する交線5の後方の所定範囲においてのみ見ることができる。
第2方法ステップS2の後には第3方法ステップS3が実施される。第3方法ステップS3では、仮想空間1に配置されている仮想カメラ6の視野から3次元風景2が繰返し再現される。仮想カメラ6は、図2では例えば車両101のモデル9の上方に配置されている。したがって、仮想カメラ6によって、車両101の周辺200の鳥瞰図を生成することができる。仮想カメラ6は本物のカメラではなく、仮想空間1及び仮想空間1に含まれる要素のグラフィック図を計算するための基礎となる仮想空間1の一点である。仮想カメラの視野からの画像は仮想カメラ画像10として保存される。上述のように、仮想要素3は仮想空間1を移動する。したがって、交線も仮想空間1を移動する。さらに3次元風景2は車両101の実際の周辺200の変化に連続的に適合される。仮想空間1には移動された場面も配置される。このような場面を表示するために、連続する仮想カメラ画像10が計算され、これらの仮想カメラ画像10からビデオシーケンスが生成される。このビデオシーケンスには、ビデオシーケンスの個々の画像の交線5が示されている。このために、交線5は色付けされる。仮想要素3自体は透明であってもよく、したがって仮想カメラ画像10、ひいてはビデオシーケンスにおいて見ることができなくてもよいし、又は仮想要素3は同様に見ることができる要素であるが、好ましくは透明な要素3として表示される。
第3方法ステップS3の後には第4方法ステップS4が実施される。第4方法ステップS4では、出力装置に表示するためのビデオシーケンスが供給される。出力装置は車両101の内部のディスプレイ102である。ビデオシーケンスは、このために運転支援システムの計算ユニット100のビデオ出力部に供給される。
仮想空間1で見ることができると説明した物体は、出力装置にビデオシーケンスとして表示する場合にも見ることができることに留意されたい。仮想空間は数学的な構成にすぎないので、この構成において計算された要素自体は当然ながら決して見ることができない。ビデオシーケンスとして時間的に連続して出力装置に出力される仮想カメラ6の画像の表示のみがユーザに見えるようになっている。第4方法ステップS4の後に、方法は第1方法ステップS1に戻り、ユーザが終了するまでこのループで繰り返される。
図3は、例示的な第1の仮想カメラ画像10を示し、図4は例示的な第2の仮想カメラ画像10を示す。例示的な第1の仮想カメラ画像10及び例示的な第2の仮想カメラ画像10は、本発明により生成されたビデオシーケンスの画像である。この場合、第1の仮想カメラ画像10は第2時点で計算され、第2の仮想カメラ画像10は第3時点で計算されている。したがって、第1の仮想カメラ画像10には第2交線5bが示されており、第2の仮想カメラ画像10には第3交線5cが示されており、これらの交線は図2にも同様に示されている。例示的な第1及び第2の仮想カメラ画像10には占領された範囲8を見ることができ、この範囲8には、車両101の周辺200にいる別の車両が再現されている。投影面はこの占領された範囲8では、これに応じて変形されている。
図3及び図4に示された時点の間では、仮想要素3が移動経路4に沿って移動される。したがって、図3には第2仮想要素3b、すなわち第2時点の位置の仮想要素3が表示されており、図4には第3仮想要素3c、すなわち第3時点の位置の仮想要素3が表示されている。仮想要素は、図3及び図4には見ることができるように示されているが、本発明によるビデオシーケンスの表示では見ることができない場合もある。
障害物が表示されている占領された範囲8の交線5が、表示されている障害物にどのように配置されるかが図示されている。既に交線5の延び方から、ドライバは車両101の周辺200に障害物があることを認識できる。さらに図3及び図4に示すように、交線5の後方の範囲、すなわち移動経路4とは反対方向に、3次元風景2のテクスチャが作成されている。テクスチャはこの範囲にカバー層7が生成されることにより得られ、カバー層は、図3及び図4に示した実施形態ではテクスチャを備える。カバー層7のテクスチャは、テクスチャとして投影面に位置する画像がソフトフォーカスされるように選択される。
図5は例示的な第3の仮想カメラ画像10を示し、図6は例示的な第4の仮想カメラ画像10を示す。例示的な第3の仮想カメラ画像10及び例示的な第4の仮想カメラ画像10は、本発明により生成されたビデオシーケンスの画像である。例示的な第3の仮想カメラ画像10及び例示的な第4の仮想カメラ画像10は、同様に図3及び図4に再現された場面を示す。しかしながら、この場合には仮想カメラ6の位置は異なるように選択されている。さらにカバー層7は、車両101の周辺200の、障害物が存在する範囲に対応する交線5の範囲にのみ生成されている。したがって、カバー層7は車両101の周辺200の全ての範囲には延在していない。別の車両がいる場所、すなわち占領された範囲8にのみカバー層7は生成される。これは、例えば物体が所定の高さ範囲を超えて仮想空間に延在している場合にのみカバー層が生成されることによって達成される。
カバー層7は色付けされるか、又はテクスチャリングが施され、仮想カメラ画像10に適切に表示される。したがって、例えばカバー層7の点の色又はテクスチャは、カバー層7のそれぞれの点が仮想カメラ6に対してどのような間隔をとるかに応じて選択される。代替的には、カバー層7の点の色又はテクスチャは、カバー層7のそれぞれの点に対応する車両101の実際の周辺200の点が車両101に対してどのような間隔をとるかに応じて選択される。したがって、カバー層7が配置されている障害物が車両101の近くにいる場合には、カバー層7は、例えば赤で色付けされている。障害物との間隔が大きい場合には、例えば黄色で色付けされるか、又は間隔がさらに大きい場合には緑色で色付けされる。この場合、近いか遠いかの識別は、距離閾値によって行うことができる。代替的又は付加的に、カバー層7の点の色又はテクスチャは、カバー層7のそれぞれの点が車両101の移動軌跡に対してどのように配置されているかに応じて選択される。車両101の移動軌跡は、例えばどのようなスピードで車両101が移動するのか、どのような操舵角になっているのか、及び/又はどのギアが入っているのかに応じて計算することができる。したがって、移動軌跡は、車両101の予想される未来の動きを表す。移動軌跡に追従した場合には車両101が障害物に衝突することをこの移動軌跡が示唆した場合には、対応する障害物上のカバー層7は、例えば赤で色付けされる。
図7は、車両101及び車両101の周辺200を表示するための本発明による装置を示す。車両101には計算ユニット100が配置されており、この計算ユニットによって、第1から第4までの方法ステップS1〜S4が実施される。車両101には、第1から第4カメラ103〜106が配置されており、これらのカメラによって車両101の周辺200がカメラ画像から検出され、カメラ画像は、テクスチャとして3次元風景2に配置される。さらに車両101には複数の超音波センサ107が配置されており、これらの超音波センサは車両101のセンサ装置であり、これらの超音波センサによって、車両101の周辺の障害物の位置及び形状が検出される。第1〜第4カメラ103〜106及び多数の超音波センサ107は計算ユニット100に接続されており、検出されたデータは計算ユニット100に伝送される。車両101の内部空間には、ビデオシーケンスを表示する出力装置であるディスプレイ102が配置されている。
したがって、要約すると、まずビデオ情報及び外部センサによって検出される物体の図として周辺図が作成される。これらの周辺図から、環境、周辺の物体、及び車両101の構造を示す3次元図が作成される。これらの図のそれぞれの3次元点は、そこに実際の物体がある可能性を示す。次いで異なる物体を覆う形状が近隣の物体及び最も重要な障害物のために生成される。これらの物体の対応する3次元画素は、移動する可能性が最も高い。車両101の周辺環境から得られるこれらの形状又は3次元網に、車両101のカメラによって検出される画像を用いてテクスチャが作成される。次いでこの3次元仮想世界に、仮想世界の底部を超えて全ての方向に広がる波動オーバレイが投影される。この波動伝搬の中心は、好ましくは車両101のモデル9である。波動オーバレイは、障害物に衝突した場合に変形される。この場合、波動オーバレイの形状は、障害物の覆いに適合される。これらの波動オーバレイは、好ましくは周期的に送信され、物体と車両101との間隔が変化した場合には送信周期の時間間隔が変更される。物体が車両101に近づけば近づく程、波動オーバレイにより形成された波動がより速く送信される。この場合、波動オーバレイ、すなわち交線5又はカバー層7は、車両1と物体との距離に応じて色付けされる。波動が物体に衝突するとすぐに、物体は、適切な色が割り当てられたカバー層7によって覆われる。色によって、物体の重要性が示唆される。物体が車両101に著しく近づいた場合には、赤色が選択され、黄色は中程度の危険性を表し、緑は大きい間隔を表す。この色付けは、必要に応じてドライバ又はユーザがメニュー入力によって適合させることができる。カバー層7のテクスチャがソフトフォーカスをもたらす場合にはさらに好ましい。カバー層のマークもしくは色強度は、車両101の移動軌跡に基づいて選択もしくは適合される。移動軌跡が障害物のそばを通り過ぎた場合には、車両101が障害物のそばを通り過ぎていない状態に比べてカバー層の色変化もしくは色をより透明でないように選択することができる。
したがって、特にドライバの駐車可能性を比較する可能性も得られる。さらに、ドライバにとって重要性の高い範囲が強調される。
上記開示の他に、図1から図7までの開示にも留意されたい。
1 仮想空間
2 3次元風景
3 仮想要素
3a 第1仮想要素
3b 第2仮想要素
3c 第3仮想要素
4 移動経路
5 交線
5a 第1交線
5b 第2交線
5c 第3交線
6 仮想カメラ
7 カバー層
8 範囲
9 モデル
10 仮想カメラ画像
100 計算ユニット
101 車両
102 ディスプレイ
103,104,105,106 カメラ
107 超音波センサ
200 周辺
S1 第1方法ステップ
S2 第2方法ステップ
S4 第4方法ステップ
S3 第3方法ステップ
本発明の第1実施形態による車両の周辺を表示する例示的な方法を示すフロー図である。 本発明の第1実施形態による仮想空間の例示的な図である。 例示的な第1の仮想カメラ画像を示す図である。 例示的な第2の仮想カメラ画像を示す図である。 例示的な第3の仮想カメラ画像を示す図である。 例示的な第4の想カメラ画像を示す図である。 車両の周辺を表示するための本発明による装置を備える車両を示す図である。
したがって、要約すると、まずビデオ情報及び外部センサによって検出される物体の図として周辺図が作成される。これらの周辺図から、環境、周辺の物体、及び車両101の構造を示す3次元図が作成される。これらの図のそれぞれの3次元点は、そこに実際の物体がある可能性を示す。次いで異なる物体を覆う形状が近隣の物体及び最も重要な障害物のために生成される。これらの物体の対応する3次元画素は、移動する可能性が最も高い。車両101の周辺環境から得られるこれらの形状又は3次元網に、車両101のカメラによって検出される画像を用いてテクスチャが作成される。次いでこの3次元仮想世界に、仮想世界の底部を超えて全ての方向に広がる波動オーバレイが投影される。この波動伝搬の中心は、好ましくは車両101のモデル9である。波動オーバレイは、障害物に衝突した場合に変形される。この場合、波動オーバレイの形状は、障害物の覆いに適合される。これらの波動オーバレイは、好ましくは周期的に送信され、物体と車両101との間隔が変化した場合には送信周期の時間間隔が変更される。物体が車両101に近づけば近づく程、波動オーバレイにより形成された波動がより速く送信される。この場合、波動オーバレイ、すなわち交線5又はカバー層7は、車両101と物体との距離に応じて色付けされる。波動が物体に衝突するとすぐに、物体は、適切な色が割り当てられたカバー層7によって覆われる。色によって、物体の重要性が示唆される。物体が車両101に著しく近づいた場合には、赤色が選択され、黄色は中程度の危険性を表し、緑は大きい間隔を表す。この色付けは、必要に応じてドライバ又はユーザがメニュー入力によって適合させることができる。カバー層7のテクスチャがソフトフォーカスをもたらす場合にはさらに好ましい。カバー層のマークもしくは色強度は、車両101の移動軌跡に基づいて選択もしくは適合される。移動軌跡が障害物のそばを通り過ぎた場合には、車両101が障害物のそばを通り過ぎていない状態に比べてカバー層の色変化もしくは色をより透明でないように選択することができる。

Claims (11)

  1. 車両の周辺を表示する方法において、該方法が:
    車両の周辺を表す3次元風景(2)を仮想空間(1)に作成し、
    移動する仮想要素(3)であって、面の形状を備え、所定の移動経路(4)にしたがって3次元風景を移動する仮想要素(3)を仮想空間(1)に生成し、所定の移動経路(4)に沿ったそれぞれの位置について仮想要素(3)と3次元風景(2)の表面との交線(5)を決定し、
    仮想空間(1)に配置された仮想カメラ(6)の視野からの3次元風景(2)を仮想カメラ画像(10)において繰り返し再現し、連続する仮想カメラ画像(10)からビデオシーケンスを生成し、ビデオシーケンスの個別画像に交線(5)を表示し、
    出力装置にビデオシーケンスを供給することを含む、車両の周辺を表示する方法。
  2. 請求項1に記載の方法において、
    前記仮想空間(1)における3次元風景の作成は、さらに:
    車両の周辺を再現するカメラ画像を検出し、
    検出されたカメラ画像によって前記3次元風景(2)のテクスチャを作成することを含む方法。
  3. 請求項1又は2に記載の方法において、
    車両の周辺に対応して投影面として前記3次元風景(2)を形成する方法。
  4. 請求項1から3までのいずれか一項に記載の方法において、
    移動する前記仮想要素(3)が、所定の移動経路(4)に沿った移動によって大きさが増す拡大する要素である方法。
  5. 請求項1から4までのいずれか一項に記載の方法において、
    前記仮想要素(3)の拡大により前記仮想要素(3)の移動をもたらし、特に前記仮想要素(3)の重心を移動時に同じ位置に保持する方法。
  6. 請求項1から5までのいずれか一項に記載の方法において、
    前記所定の移動経路(4)にしたがって前記仮想空間(1)を周期的に連続して移動する複数の移動する前記仮想要素(3)を時間的に連続して表示する方法。
  7. 請求項6に記載の方法において、
    車両の周辺の所定の物体と車両との間の間隔が減じられた場合に、周期的な連続の時間間隔を減じる方法。
  8. 請求項1から7までのいずれか一項に記載の方法において、
    前記交線(5)に沿って前記仮想要素(3)が移動した場合に、前記仮想空間(1)にカバー層(7)を生成し、特に、障害物が存在する車両の周辺の範囲に対応する前記交線(5)の範囲(8)にのみ前記カバー層(7)を生成する方法。
  9. 請求項8に記載の方法において、
    生成されてから所定時間後に、前記カバー層(7)の前記範囲を前記仮想空間(1)からフェードアウトさせる方法。
  10. 請求項8又は9に記載の方法において、
    前記カバー層(7)のそれぞれの点が前記仮想カメラ(6)に対してどのような間隔を有するのか、
    前記カバー層(7)のそれぞれの点に対応する実際の車両周辺の点が車両に対してどのような間隔を有するのか、又は
    前記カバー層(7)のそれぞれの点が車両の移動軌道に関してどのように配置されているのかに依存して、前記カバー層(7)の点の色又はテクスチャを選択する方法。
  11. 車両(100)の周辺(200)の表示を提供するための装置において、該装置が計算ユニット(101)を含み、該計算ユニットが:
    車両(100)の周辺(200)を表す3次元風景(2)を仮想空間(1)に作成し、
    移動する仮想要素(3)であって、面の形状を備え、所定の移動経路(4)にしたがって3次元風景を移動する仮想要素(3)を仮想空間(1)に生成し、所定の移動経路(4)に沿ったそれぞれの位置について、仮想要素(3)と3次元風景(2)の表面との交線(5)を決定し、
    仮想空間(1)に配置された仮想カメラ(6)の視野からの3次元風景(2)を仮想カメラ画像(10)において繰り返し再現し、連続する仮想カメラ画像(10)からビデオシーケンスを生成し、ビデオシーケンスの個々の画像に交線(5)を表示し、
    出力装置(102)にビデオシーケンスを供給するように構成されている、車両(100)の周辺(200)の表示を提供するための装置。
JP2018007098A 2017-01-20 2018-01-19 車両の周辺を表示する方法 Active JP7103791B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102017200965.9 2017-01-20
DE102017200965.9A DE102017200965A1 (de) 2017-01-20 2017-01-20 Verfahren zur Darstellung einer Umgebung eines Fahrzeuges

Publications (2)

Publication Number Publication Date
JP2018139107A true JP2018139107A (ja) 2018-09-06
JP7103791B2 JP7103791B2 (ja) 2022-07-20

Family

ID=60673271

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018007098A Active JP7103791B2 (ja) 2017-01-20 2018-01-19 車両の周辺を表示する方法

Country Status (3)

Country Link
EP (1) EP3352139B1 (ja)
JP (1) JP7103791B2 (ja)
DE (1) DE102017200965A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI702577B (zh) * 2019-07-10 2020-08-21 中華汽車工業股份有限公司 行車輔助影像產生方法及系統

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07171273A (ja) * 1993-12-20 1995-07-11 Sega Enterp Ltd コンピュータゲームシステム
JP2015075966A (ja) * 2013-10-09 2015-04-20 富士通株式会社 画像処理装置、画像処理方法、及び、プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012018325A1 (de) * 2012-09-15 2014-03-20 DSP-Weuffen GmbH Verfahren und Vorrichtung für ein bildgebendes Fahrerassistenzsystem mit adaptiver Umsichtdarstellung
DE102014204303A1 (de) * 2014-03-10 2015-09-10 Robert Bosch Gmbh Verfahren zum Zusammenfügen von Einzelbildern, die von einem Kamerasystem aus unterschiedlichen Positionen aufgenommen wurden, zu einem gemeinsamen Bild
KR102329110B1 (ko) * 2015-05-30 2021-11-18 레이아 인코포레이티드 차량 모니터링 시스템

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07171273A (ja) * 1993-12-20 1995-07-11 Sega Enterp Ltd コンピュータゲームシステム
JP2015075966A (ja) * 2013-10-09 2015-04-20 富士通株式会社 画像処理装置、画像処理方法、及び、プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI702577B (zh) * 2019-07-10 2020-08-21 中華汽車工業股份有限公司 行車輔助影像產生方法及系統

Also Published As

Publication number Publication date
EP3352139B1 (de) 2021-06-23
DE102017200965A1 (de) 2018-07-26
EP3352139A1 (de) 2018-07-25
JP7103791B2 (ja) 2022-07-20

Similar Documents

Publication Publication Date Title
JP6608146B2 (ja) ライブ映像を有する仮想透過型インストルメントクラスタ
KR100948159B1 (ko) 유체 렌더링 방법
KR101427193B1 (ko) 차량의 환경을 디스플레이하기 위한 뷰잉 시스템 및 방법
US8390617B1 (en) Visualizing oblique images
KR102365730B1 (ko) 인터랙티브 콘텐츠 제어 장치 및 방법
US20120188279A1 (en) Multi-Sensor Proximity-Based Immersion System and Method
WO2011041466A1 (en) Systems and methods for interaction with a virtual environment
JP2008520052A5 (ja)
EP2806404B1 (en) Image conversion for signage
JP2008090617A (ja) 立体画像生成装置、方法およびプログラム
KR20170086077A (ko) 증강 현실 장면에서의 드로잉을 위한 깊이 정보의 사용
JP6587626B2 (ja) カメラシステムによって様々な位置で撮影された複数の個別画像を1つの共通の画像につなぎ合わせるための方法
CN103802725A (zh) 一种新的车载驾驶辅助图像生成方法
US11335008B2 (en) Training multi-object tracking models using simulation
JP2021527252A (ja) 自動化された表面選択設置およびコンテンツ配向設置を用いた拡張現実ビューア
CN114077306A (zh) 实现内容可视化的装置和方法
JPH10198822A (ja) 画像合成装置
KR101299191B1 (ko) 3차원 모형에 영상을 투사하는 장치 및 방법
JP7103791B2 (ja) 車両の周辺を表示する方法
JP6143612B2 (ja) パノラマ画像表示装置
EP3496387A1 (en) Apparatus and method of image capture
JP4530214B2 (ja) 模擬視界発生装置
O'Sullivan et al. Metropolis: multisensory simulation of a populated city
CN110248845B (zh) 用于显示车辆的周围环境的方法和设备
EP2962290B1 (en) Relaying 3d information by depth simulation using 2d pixel displacement

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180712

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220707

R150 Certificate of patent or registration of utility model

Ref document number: 7103791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150