JP2024514006A - 自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステム - Google Patents
自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステム Download PDFInfo
- Publication number
- JP2024514006A JP2024514006A JP2023563196A JP2023563196A JP2024514006A JP 2024514006 A JP2024514006 A JP 2024514006A JP 2023563196 A JP2023563196 A JP 2023563196A JP 2023563196 A JP2023563196 A JP 2023563196A JP 2024514006 A JP2024514006 A JP 2024514006A
- Authority
- JP
- Japan
- Prior art keywords
- surrounding environment
- feature
- detection sensor
- vehicle
- representation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000001514 detection method Methods 0.000 claims abstract description 42
- 230000004927 fusion Effects 0.000 claims abstract description 5
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000010586 diagram Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 102100034112 Alkyldihydroxyacetonephosphate synthase, peroxisomal Human genes 0.000 description 1
- 101000799143 Homo sapiens Alkyldihydroxyacetonephosphate synthase, peroxisomal Proteins 0.000 description 1
- 238000000848 angular dependent Auger electron spectroscopy Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012067 mathematical method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Abstract
自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステム本発明は、少なくとも1つの第1周辺環境検出センサ(1)および第2周辺環境検出センサ(2)のデータの融合を用いて自車両の周辺環境における少なくとも1つの特徴の位置(P)を補正する方法において、-第1周辺環境検出センサ(1)を用いて自車両の周辺環境を記録し、第1周辺環境表現を生成するステップ(S1)と、-第2周辺環境検出センサ(2)を用いて自車両の周辺環境を記録し、第2周辺環境表現を生成するステップ(S2)と、-第1周辺環境表現における少なくとも1つの特徴を検出するステップ(S3)と、-第1周辺環境表現に基づいて少なくとも1つの特徴の位置(P)を特定するステップ(S4)と、-第2周辺環境表現に基づいて自車両の前方の領域における高度プロファイル(3,5)を決定するステップ(S5)と、-少なくとも1つの検出された特徴の位置(P)と決定された高度プロファイル(3,5)とを融合し、補正された位置を決定するステップ(S6)と、-決定された補正された位置に基づいて少なくとも1つの特徴の位置(P)を補正するステップ(S7)とを備える方法に関する。
Description
本発明は、自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステムに関する。
従来技術からは、例えば、カメラ画像において行われる、ADASシステムにおいて用いるための特徴抽出(例えば、他の交通参加者、車線の幾何形状、走行可能な領域等)が知られている。さらに、画像中の抽出された特徴を車両座標系に変換するために、カメラの内部および外部キャリブレーションが行われる。その際、現在では3つの主なアプローチが存在する。
平面世界を仮定するものが存在する。つまり、カメラの視野における全ては高度差が存在しない平面(例えば、道路)上に位置すると仮定される。また、ステレオカメラを用いるものがあり、これにより、2つのカメラ画像における連関に基づいて深度情報/高度情報を取得し、このようにして、3D情報を取得する。3番目としては、技術、例えば、オプティカルフロー等を介して、深度および高度の推定を行うことが知られている。
本発明の課題は、特徴を位置特定する際の精確度の向上が達成される方法およびシステムを提供することである。
本課題は独立請求項1および6により有利に解決される。さらなる有利な構成および実施形態が従属請求項の対象である。
まず、カメラは、原理的に、車両の非常に近くに位置する特徴に関しては非常に高い解像度を有するものの、より離間している特徴に関しては非常に低い解像度を有することが考察された。従って、抽出結果は、原理的に、即座に不精確となる。横方向の解像度(つまり、自車両に対する特徴の角度)は確かに良好ではあるが、車両に対する特徴の高度または距離は、既に数メートル後にはより大きな誤差を有する。上述の3つのアプローチ全てにおいてこの問題は存在し、様々な形で顕著に現れている。特に、高度記述および距離記述の誤差とリンクしている。
従って、本発明によると、少なくとも1つの第1周辺環境検出センサおよび第2周辺環境検出センサのデータの融合を用いて自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法において、
-第1周辺環境検出センサを用いて自車両の周辺環境を記録し、第1周辺環境表現を生成するステップと、
-第2周辺環境検出センサを用いて自車両の周辺環境を記録し、第2周辺環境表現を生成するステップと、
-第1周辺環境表現における少なくとも1つの特徴を検出するステップと、
-第1周辺環境表現に基づいて少なくとも1つの特徴の位置を特定するステップと、
-第2周辺環境表現に基づいて自車両の前方の領域における高度プロファイルを決定するステップと、
-少なくとも1つの検出された特徴の位置と決定された高度プロファイルとを融合し、補正された位置を決定するステップと、
-決定された補正された位置に基づいて少なくとも1つの特徴の位置を補正するステップとを備える方法である。
-第1周辺環境検出センサを用いて自車両の周辺環境を記録し、第1周辺環境表現を生成するステップと、
-第2周辺環境検出センサを用いて自車両の周辺環境を記録し、第2周辺環境表現を生成するステップと、
-第1周辺環境表現における少なくとも1つの特徴を検出するステップと、
-第1周辺環境表現に基づいて少なくとも1つの特徴の位置を特定するステップと、
-第2周辺環境表現に基づいて自車両の前方の領域における高度プロファイルを決定するステップと、
-少なくとも1つの検出された特徴の位置と決定された高度プロファイルとを融合し、補正された位置を決定するステップと、
-決定された補正された位置に基づいて少なくとも1つの特徴の位置を補正するステップとを備える方法である。
好ましくは、第1周辺環境検出センサはカメラであり、第2周辺環境検出センサはレーダセンサまたはライダセンサである。従って、第1周辺環境表現はカメラ画像であり、第2周辺環境表現は物体リストまたは点群である。少なくとも1つの特徴は、例えば、物体、例えば、交通標識、道路境界線等、または他の交通参加者、例えば、さらなる車両、歩行者、自転車運転者等であってもよい。第1周辺環境表現における特徴を検出するために、例えば、セマンティックセグメンテーションが行われてよい。車両の前方の領域は、好ましくは、車両の前方に位置する車道または路面を示す。特徴の検出、位置の特定、高度プロファイルの決定、位置の融合および補正は、好ましくは、それに対応する計算ユニットにおいて行われる。この計算ユニットは、好ましくは、ECUまたはADCU(運転支援および自動運転制御ユニット)である。また、方法ステップ用にセンサ計算ユニット、例えば、カメラの計算ユニットを用いることも考えられる。この場合、生成された周辺環境表現は計算ユニットに伝送される。
好ましい実施形態において、第1周辺環境表現における特徴の位置が、平面世界仮定においてxy座標において出力される。この平面世界仮定の基準平面は路面であってよい。この仮定に基づいて、この特徴と自車両との距離も特定することができる。この場合、座標は、それに対応してキャリブレーションされた、第1周辺環境検出センサの座標系に基づく。また、第1周辺環境検出センサは既に高度モデルを有しており、平面世界仮定を用いないことも考えられる。この場合、第1周辺環境検出センサの高度モデルは、一般に、比較的に不精確である。その一方、第2周辺環境検出センサのデータに基づく高度モデルは、実質的に、より高精度で、より詳細である。また、そのような構成においても、本方法は上記のように実施することができる。
さらなる好ましい構成において、少なくとも1つの特徴の位置と高度プロファイルとを融合するために、幾何学的ステップが適用される。これは、簡略化して説明すると、第1周辺環境検出センサ、好ましくは、カメラの視線は、決定された高度プロファイルと交差することを意味する。視線は、物体から第1周辺環境検出センサに到達する光線として実質的に記載することができる。高度プロファイルに応じて、視線を必要な場合には拡張する必要がある。このようにして、2つのデータを融合することができ、補正された位置を特定することができるのは、この時点における高度が既知であり、第1周辺環境検出センサの位置も既知であるからである。
好ましい構成において、高度プロファイルを決定するために、回帰法が適用される。このために、第2周辺環境検出センサのデータに基づいて、高度情報を有する少なくとも2つのデータ点が決定される。
特に好ましくは、本方法の1つの構成において、回帰法として最小二乗法が適用される。特に好ましくは、線形最小二乗法である。この場合、線形モデルまたは多項式モデルが用いられてよい。最小二乗法は、一般に、調整のための数学的方法を示すものである。ここで、測定点の集合に対する関数が決定され、この関数は測定点の可能な限り近傍を通るものであるため、データを最も良くまとめている。例えば、ライダセンサの測定値を用いてよく、ライダにより供給される点群のz座標を高度、x座標を位置として用いてよく、これにより、車両の前方の高度を示す高度プロファイルモデルを推定する。この場合、x軸からのy偏差があまり大きくない点のみが用いられる。
本発明によると、少なくとも1つの第1周辺環境検出センサおよび第2周辺環境検出センサと計算ユニットとを備える、自車両の周辺環境における少なくとも1つの特徴の位置を補正するシステムにおいて、計算ユニットが、請求項1~5の何れか1項に記載の方法を実行するように構成されている、システムがさらに提案される。
ここで、計算ユニットは、例えば、別体の要素として自車両に搭載されているECUまたはADCUとして構成されていてよい。また、本方法を実行する計算ユニットは、センサのうちの1つのコンポーネントであることも考えられる。
さらなる有利な構成が図面の対象である。
図1には、少なくとも1つの第1周辺環境検出センサ1および第2周辺環境検出センサ2のデータの融合を用いて自車両の周辺環境における少なくとも1つの特徴の位置Pを補正する方法が示されており、この方法は以下のステップを備えている。ステップS1において、第1周辺環境検出センサ1を用いて自車両の周辺環境を記録し、第1周辺環境表現を生成する。ステップS1と同時またはその後に行われてよいステップS2において、第2周辺環境検出センサ2を用いて自車両の周辺環境を記録し、第2周辺環境表現を生成する。ステップS3において、第1周辺環境表現における少なくとも1つの特徴を検出する。その次のステップS4において、第1周辺環境表現に基づいて少なくとも1つの特徴の位置Pを特定する。ステップS5において、第2周辺環境表現に基づいて自車両の前方の領域における高度プロファイル3,5を決定する。高度プロファイル3,5とは、例えば、上昇3または下降5に関するものであってよい。また、連続的な下降5または上昇3のみが存在するのではなく、両者が一定の間隔で互いに交代し、このようにして一定の区間に渡って小さい起伏が存在することも考えられる。ステップS6において、少なくとも1つの検出された特徴の位置Pと決定された高度プロファイル3,5とを融合し、補正された位置を決定する。最後に、ステップS7において、決定された補正された位置に基づいて少なくとも1つの特徴の位置Pを補正する。
図2は、位置検出に関するシーンの概略図を示す。図2に示されているように、第1周辺環境検出センサ1、この場合、カメラを用いて、自車両の周辺環境を記録する。この周辺環境において、カメラ画像には、特徴、この図においては、人の位置Pが決定される。この場合、カメラの基準座標系6は平面世界仮定4に基づいて較正される。これは、平面世界仮定4の基準平面は路面であることを意味する。この仮定において、カメラ1は、カメラ1の検出領域7における特徴を検出し、その位置Pを特定する。しかし、現実の道路プロファイルは、例えば、上昇3または下降5を有する場合があり、従って、決定された位置Pの補正が必要になるのは、平面世界仮定4に基づく位置が正しく特定されていないからである。この場合、参照符号P1は、潜在的上昇3の場合における補正された位置P1を示し、参照符号P2は、潜在的下降5の場合における補正された位置P2を示す。車道プロファイル3,5が異なっていることから、現実または補正された位置P1,P2は、平面世界仮定4に基づいて特定された位置Pとは部分的に著しく異なっている。
図3には、本発明の1つの実施形態によるシステム10の概略図が示されている。ここで、システム10は第1周辺環境検出センサ1と第2周辺環境検出センサ2とを有する。さらに、計算ユニット8が設けられており、計算ユニット8を用いて本発明に係る方法を実行することができる。この構成において、計算ユニット8は、別体の要素として、例えば、ECU/ADCUとして、自車両に設けられている。この場合、第1周辺環境検出センサ1および第2周辺環境検出センサ2は、データコネクションDを用いて計算ユニット8と接続されている。また、本方法を実行するための計算ユニット8をセンサ1,2のうちの1つに一体化することも考えられる。データコネクションDは、例えば、有線または無線で構成されてよい。
1 第1周辺環境検出センサ
2 第2周辺環境検出センサ
3 上昇の車道プロファイル
4 平面世界仮定の平面
5 下降の車道プロファイル
6 カメラ座標系
7 検出領域
8 計算ユニット
10 システム
D データコネクション
P 少なくとも1つの特徴の位置
P1,P2 補正された位置
S1-S7 方法ステップ
2 第2周辺環境検出センサ
3 上昇の車道プロファイル
4 平面世界仮定の平面
5 下降の車道プロファイル
6 カメラ座標系
7 検出領域
8 計算ユニット
10 システム
D データコネクション
P 少なくとも1つの特徴の位置
P1,P2 補正された位置
S1-S7 方法ステップ
Claims (6)
- 少なくとも1つの第1周辺環境検出センサ(1)および第2周辺環境検出センサ(2)のデータの融合を用いて自車両の周辺環境における少なくとも1つの特徴の位置(P)を補正する方法において、
-前記第1周辺環境検出センサ(1)を用いて前記自車両の前記周辺環境を記録し、第1周辺環境表現を生成するステップ(S1)と、
-前記第2周辺環境検出センサ(2)を用いて前記自車両の前記周辺環境を記録し、第2周辺環境表現を生成するステップ(S2)と、
-前記第1周辺環境表現における少なくとも1つの特徴を検出するステップ(S3)と、
-前記第1周辺環境表現に基づいて前記少なくとも1つの特徴の前記位置(P)を特定するステップ(S4)と、
-前記第2周辺環境表現に基づいて前記自車両の前方の領域における高度プロファイル(3,5)を決定するステップ(S5)と、
-前記少なくとも1つの検出された特徴の前記位置(P)と前記決定された高度プロファイル(3,5)とを融合し、補正された位置を決定するステップ(S6)と、
-前記決定された補正された位置に基づいて前記少なくとも1つの特徴の前記位置(P)を補正するステップ(S7)とを備える方法。 - 前記第1周辺環境表現における前記特徴の前記位置(P)が、平面世界仮定(4)においてxy座標において出力されることを特徴とする、請求項1に記載の方法。
- 前記少なくとも1つの特徴の前記位置(P)と前記高度プロファイル(3,5)とを融合するために、幾何学的ステップが適用されることを特徴とする、請求項1に記載の方法。
- 前記高度プロファイルを決定するために、回帰法が適用されることを特徴とする、請求項1に記載の方法。
- 回帰法として最小二乗法が適用されることを特徴とする、請求項4に記載の方法。
- 少なくとも1つの第1周辺環境検出センサ(1)および第2周辺環境検出センサ(2)と計算ユニット(8)とを備える、自車両の周辺環境における少なくとも1つの特徴の位置(P)を補正するシステム(10)において、前記計算ユニット(8)が、請求項1~4の何れか1項に記載の方法を実行するように構成されている、システム(10)。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102021205593.1 | 2021-06-01 | ||
DE102021205593.1A DE102021205593B3 (de) | 2021-06-01 | 2021-06-01 | Verfahren und System zur Korrektur einer Position zumindest eines Merkmals in einem Umfeld eines Ego-Fahrzeugs |
PCT/DE2022/200103 WO2022253391A1 (de) | 2021-06-01 | 2022-05-20 | Verfahren und system zur korrektur einer position zumindest eines merkmals in einem umfeld eines ego-fahrzeugs |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024514006A true JP2024514006A (ja) | 2024-03-27 |
Family
ID=81854697
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023563196A Pending JP2024514006A (ja) | 2021-06-01 | 2022-05-20 | 自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP2024514006A (ja) |
DE (1) | DE102021205593B3 (ja) |
WO (1) | WO2022253391A1 (ja) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5639874B2 (ja) | 2010-12-24 | 2014-12-10 | 株式会社日立製作所 | 運転支援装置 |
DE102014207523A1 (de) | 2014-04-22 | 2015-10-22 | Robert Bosch Gmbh | Verfahren zum kalibrieren eines radarsensors und radarsystem |
JP6926976B2 (ja) | 2017-11-15 | 2021-08-25 | 株式会社アイシン | 駐車支援装置及びコンピュータプログラム |
JP7199269B2 (ja) | 2019-03-20 | 2023-01-05 | 日立Astemo株式会社 | 外界センシング情報処理装置 |
DE102020205468A1 (de) | 2020-04-30 | 2021-11-04 | Zf Friedrichshafen Ag | Autonomes und/oder assistiertes Kuppeln eines Anhängers unter Berücksichtigung des Höhenprofils des Untergrunds |
-
2021
- 2021-06-01 DE DE102021205593.1A patent/DE102021205593B3/de active Active
-
2022
- 2022-05-20 JP JP2023563196A patent/JP2024514006A/ja active Pending
- 2022-05-20 WO PCT/DE2022/200103 patent/WO2022253391A1/de active Application Filing
Also Published As
Publication number | Publication date |
---|---|
DE102021205593B3 (de) | 2022-10-13 |
WO2022253391A1 (de) | 2022-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7461720B2 (ja) | 車両位置決定方法及び車両位置決定装置 | |
KR100941271B1 (ko) | 자동차용 차선이탈 방지 방법 | |
JP5157067B2 (ja) | 自動走行用マップ作成装置、及び自動走行装置。 | |
CN110530372B (zh) | 定位方法、路径确定方法、装置、机器人及存储介质 | |
CN108692719B (zh) | 物体检测装置 | |
CN110503040B (zh) | 障碍物检测方法及装置 | |
US20160379066A1 (en) | Method and Camera System for Distance Determination of Objects from a Vehicle | |
EP1944734A2 (en) | Distance correcting apparatus of surrounding monitoring system and vanishing point correcting apparatus thereof | |
CN109444916A (zh) | 一种无人驾驶可行驶区域确定装置及方法 | |
KR102428765B1 (ko) | 터널 조명을 이용한 자율주행 차량 항법 시스템 | |
JP4596566B2 (ja) | 自車情報認識装置及び自車情報認識方法 | |
JPWO2018042954A1 (ja) | 車載カメラ、車載カメラの調整方法、車載カメラシステム | |
KR20200118073A (ko) | 동적 입체 캘리브레이션을 위한 시스템 및 방법 | |
KR102343020B1 (ko) | 노면 영상정보를 이용한 자율주행 차량의 위치신호 보정장치 | |
US11908206B2 (en) | Compensation for vertical road curvature in road geometry estimation | |
KR20160125803A (ko) | 영역 추출 장치, 물체 탐지 장치 및 영역 추출 방법 | |
JP6549932B2 (ja) | ステレオ画像処理装置 | |
US20230150499A1 (en) | Vehicle control system and vehicle driving method using the vehicle control system | |
WO2019239775A1 (ja) | 車両用物体検知装置 | |
JP2024514006A (ja) | 自車両の周辺環境における少なくとも1つの特徴の位置を補正する方法およびシステム | |
JP2020086884A (ja) | 区画線推定装置、表示制御装置、方法、及びコンピュータ・プログラム | |
CN109309785A (zh) | 拍摄控制装置以及拍摄控制方法 | |
US20180060671A1 (en) | Image processing device, imaging device, equipment control system, equipment, image processing method, and recording medium storing program | |
JP2001108434A (ja) | 距離測定方法及び距離測定装置 | |
US20150254803A1 (en) | Process for true-to-scale scaling of a recording of a camera sensor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231016 |