JP6936098B2 - 対象物推定装置 - Google Patents
対象物推定装置 Download PDFInfo
- Publication number
- JP6936098B2 JP6936098B2 JP2017191563A JP2017191563A JP6936098B2 JP 6936098 B2 JP6936098 B2 JP 6936098B2 JP 2017191563 A JP2017191563 A JP 2017191563A JP 2017191563 A JP2017191563 A JP 2017191563A JP 6936098 B2 JP6936098 B2 JP 6936098B2
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- pixel
- reference image
- parallax
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/285—Analysis of motion using a sequence of stereo image pairs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Description
車両に搭載されており、
ステレオカメラを用いて車両前方の領域を所定時間が経過する毎に撮像する撮像手段(11、ステップ502)と、
前記撮像手段(11)によって同じ演算タイミングで撮像された複数の撮像画像のうちの基準となる撮像画像である基準画像を基準として、前記複数の撮像画像において対応する画素同士の視差(d)を含む視差情報を、前記所定時間が経過する毎に前記基準画像中の各画素について算出する視差情報算出手段(ステップ504)と、
前記視差情報に基づいて前記基準画像中の路面領域(14)を前記所定時間が経過する毎に検出する路面領域検出手段(ステップ514)と、
前記基準画像中の各画素が前記路面領域(14)に対応する画素であるか否かを前記所定時間が経過する毎に判定する路面領域判定手段(ステップ516)と、
前回の演算タイミングにおける前記基準画像中の画素の位置から、今回の演算タイミングにおける前記基準画像中の前記画素に対応する画素の位置まで、の位置の変化量((u,v))を含む推移情報を、前記所定時間が経過する毎に前記基準画像中の各画素について算出する推移情報算出手段(ステップ518)と、
前記視差情報及び前記推移情報に基づいて、前記基準画像中の各画素の3次元空間における位置及び速度の推定値をフィルタを用いて前記所定時間が経過する毎に算出し、前記算出された推定値に基づいて対象物を推定することにより、対象物の位置及び速度を推定する推定値算出手段(ステップ520、524)と、を備える。
前記推定値算出手段は、
前記路面領域判定手段により前記基準画像中の画素が前記路面領域(14)に対応する画素であると判定された場合(ステップ516:Yes)、当該判定された画素については前記推定値を算出しない、
ように構成されている。
前記推移情報算出手段は、
前記路面領域判定手段により前記基準画像中の画素が前記路面領域に対応する画素であると判定された場合(ステップ516:Yes)、当該判定された画素については前記推移情報を算出しない、
ように構成されている。
次に、実施装置の作動の詳細について説明する。なお、以下で説明する視差画像の生成方法から路面領域の検出方法までは周知であるため、これらの方法については簡単な説明に留める。詳細については、特開2016−206776号公報(米国特許出願公開第2016305785号明細書)を参照されたい。
実施装置のECU10は、自車両の図示しないエンジンスイッチ(イグニッション・キー・スイッチ)がオン状態へと変更されてからオフ状態へと変更されるまでの期間(以下、「エンジンオン期間」とも称する。)、所定時間(演算周期)が経過する毎に、以下のようにして視差情報を算出する。即ち、ECU10は、カメラセンサ11から出力された左右の画像信号によって表される左画像及び右画像(基準画像)の対応する画素同士の視差dを含む視差情報を、基準画像を基準として算出する。ECU10は、基準画像中の全ての画素について、視差情報を算出する。ここで、「全ての画素」とは、基準画像において視差情報が算出可能な画素の全てを意味する。視差情報の算出には、例えば、Semi-Global Matchingの手法が用いられ得る。ECU10は、視差情報に基づいて視差画像を生成する。視差画像を構成する各画素(視差点)には視差情報が対応付けられている。ECU10は、生成された視差画像をそのRAMに格納する。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、視差画像中の各視差点が路面視差点であるか、路面視差点以外の視差点であるかを推定する。以下、推定方法の一例を簡単に説明する。図2Aは視差投票マップ20の平面図を示し、図2Bは視差投票マップ20の斜視図を示す。視差投票マップ20は、そのRAMに予め設けられている。図2A及び図2Bに示すように、視差投票マップ20は、横方向の辺が視差画像の横方向(車幅方向)の位置に対応し、縦方向の辺が視差画像の縦方向の位置に対応し、奥行き方向の辺が視差の大きさに対応するように配列された複数の直方体形状のブロック22を備える。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、車両状態センサ12から出力された車両状態情報に基づいて自車両が走行すると予想される経路である走行予想経路を推定する。例えば、ECU10は、現在の車両状態(車速及びヨーレート)が継続すると仮定して走行予想経路を推定してもよいし、その他の車両状態(例えば、操舵輪の転舵角)を用いて走行予想経路を推定してもよい。ECU10は、推定された走行予想経路を表す情報をそのRAMに格納する。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、走行予想経路を基準画像に投影する。ECU10は、路面視差点から走行予想経路までの横方向における距離に応じて、各路面視差点に重み付けを行う。路面視差点に付与される重みは、当該距離が短いほど大きくされる。ECU10は、各路面視差点に付与された重みを、対応する路面視差点に関連付けてそのRAMに格納する。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、重み付けされた路面視差点に基づいて図4に示すように基準画像中の路面領域14を検出する。本実施形態では、公知のV-disparity画像を用いて路面領域14を検出する。ECU10は、路面領域14を表す情報をそのRAMに格納する。走行予想経路に近い領域は、走行予想経路から遠い領域よりも、道路である可能性が高い。このため、走行予想経路に近い路面視差点の重みを、走行予想経路から遠い路面視差点の重みよりも大きくすることにより、走行予想経路に近い路面視差点が路面の検出に与える影響を相対的に大きくすることができ、路面領域を精度よく検出することができる
ECU10は、エンジンオン期間中、所定時間が経過する毎に、基準画像中の全ての画素に対して、画素が路面領域に対応する画素であるか否かを判定する。図4の例では、画素P1は路面領域14の範囲内に位置しており、画素P2は路面領域14の範囲外に位置している。このため、ECU10は、画素P1は路面領域14に対応する画素であると判定し、画素P2は路面領域14以外の領域に対応する画素であると判定する。ECU10は、この判定結果を各画素に関連付けてそのRAMに格納する。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、基準画像中の路面領域以外の領域に対応する全ての画素について、オプティカルフローを含む推移情報を算出する。なお、推移情報の算出方法、及び、後述する推定値の算出方法は周知であるため、これらの方法については簡単な説明に留める。詳細については、特開2015−41238号公報(米国特許出願公開第2016203376号明細書)を参照されたい。
ECU10は、エンジンオン期間中、所定時間が経過する毎に、基準画像中の路面領域以外の領域に対応する全ての画素について、画素の視差d(視差情報)及びオプティカルフロー(u,v)(推移情報)に基づいて、当該画素の3次元空間における位置(X,Y,Z)及び速度(VX,VY,VZ)の推定値を算出する。なお、3次元座標系の原点は、右カメラの光軸中心に設定される。以下、その算出方法について簡単に説明する。
次に、ECU10の実際の作動について説明する。ECU10のCPUは、エンジンオン期間中、図5にフローチャートにより示したルーチンを所定時間(演算周期)が経過する毎に実行するようになっている。
ステップ502:CPUは、カメラセンサ11から左画像信号及び右画像信号を受信する。即ち、左画像及び右画像(基準画像)を含む撮像画像を取得する。
ステップ504:CPUは、左画像及び基準画像に基づいて、対応する画素同士の視差dを含む視差情報を算出し、視差情報に基づいて視差画像を生成する。
ステップ506:CPUは、視差画像中の各視差点が路面視差点であるか、路面視差点以外の視差点であるかを推定する。
ステップ508:CPUは、車両状態センサ12から車両状態情報(車速及びヨーレート)を取得する。
ステップ510:CPUは、車両状態情報に基づいて自車両の走行予想経路を推定する。
ステップ512:CPUは、路面視差点の走行予想経路までの距離に応じて、各路面視差点への重み付けを行う。
ステップ514:CPUは、重み付けされた路面視差点に基づいて、公知のV-disparity画像を用いて基準画像中の路面領域を検出する。
ステップ520:CPUは、対象画素の視差d及びオプティカルフロー(u,v)を入力としてカルマンフィルタを適用することにより、当該対象画素の位置及び速度の推定値を算出する。
Claims (2)
- 車両に搭載された対象物推定装置であって、
ステレオカメラを用いて車両前方の領域を所定時間が経過する毎に撮像する撮像手段と、
前記撮像手段によって同じ演算タイミングで撮像された複数の撮像画像のうちの基準となる撮像画像である基準画像を基準として、前記複数の撮像画像において対応する画素同士の視差を含む視差情報を、前記所定時間が経過する毎に前記基準画像中の各画素について算出する視差情報算出手段と、
前記視差情報に基づいて前記基準画像中の路面領域を前記所定時間が経過する毎に検出する路面領域検出手段と、
前記基準画像中の各画素が前記路面領域に対応する画素であるか否かを前記所定時間が経過する毎に判定する路面領域判定手段と、
前回の演算タイミングにおける前記基準画像中の画素の位置から、今回の演算タイミングにおける前記基準画像中の前記画素に対応する画素の位置まで、の位置の変化量を含む推移情報を、前記所定時間が経過する毎に前記基準画像中の各画素について算出する推移情報算出手段と、
前記視差情報及び前記推移情報に基づいて、前記基準画像中の各画素の3次元空間における位置及び速度の推定値をフィルタを用いて前記所定時間が経過する毎に算出し、前記算出された推定値に基づいて対象物を推定することにより、対象物の位置及び速度を推定する推定値算出手段と、を備え、
前記推定値算出手段は、
前記路面領域判定手段により前記基準画像中の画素が前記路面領域に対応する画素であると判定された場合、当該判定された画素については前記推定値を算出しない、
ように構成された、
対象物推定装置。 - 請求項1に記載の対象物推定装置であって、
前記推移情報算出手段は、
前記路面領域判定手段により前記基準画像中の画素が前記路面領域に対応する画素であると判定された場合、当該判定された画素については前記推移情報を算出しない、
ように構成された、
対象物推定装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017191563A JP6936098B2 (ja) | 2017-09-29 | 2017-09-29 | 対象物推定装置 |
DE102018123861.4A DE102018123861A1 (de) | 2017-09-29 | 2018-09-27 | Zielobjektschätzvorrichtung |
US16/145,346 US10853666B2 (en) | 2017-09-29 | 2018-09-28 | Target object estimating apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017191563A JP6936098B2 (ja) | 2017-09-29 | 2017-09-29 | 対象物推定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019066302A JP2019066302A (ja) | 2019-04-25 |
JP6936098B2 true JP6936098B2 (ja) | 2021-09-15 |
Family
ID=65728099
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017191563A Active JP6936098B2 (ja) | 2017-09-29 | 2017-09-29 | 対象物推定装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10853666B2 (ja) |
JP (1) | JP6936098B2 (ja) |
DE (1) | DE102018123861A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7425045B2 (ja) | 2019-03-29 | 2024-01-30 | テルモ株式会社 | 薬液投与装置 |
US11091166B1 (en) | 2020-04-21 | 2021-08-17 | Micron Technology, Inc. | Driver screening |
US11494865B2 (en) * | 2020-04-21 | 2022-11-08 | Micron Technology, Inc. | Passenger screening |
CN111596086B (zh) * | 2020-05-15 | 2022-10-11 | 北京百度网讯科技有限公司 | 一种自动驾驶中障碍物的速度估计方法、装置和电子设备 |
US20230032998A1 (en) * | 2021-07-30 | 2023-02-02 | Magna Electronics Inc. | Vehicular object detection and door opening warning system |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0995194A (ja) * | 1995-09-29 | 1997-04-08 | Aisin Seiki Co Ltd | 車両前方の物体検出装置 |
JP2001101415A (ja) * | 1999-09-29 | 2001-04-13 | Fujitsu Ten Ltd | 画像認識装置および画像処理装置 |
JP2001134769A (ja) * | 1999-11-04 | 2001-05-18 | Honda Motor Co Ltd | 対象物認識装置 |
EP1167120B1 (en) * | 2000-06-30 | 2014-08-27 | Panasonic Corporation | Rendering device for parking aid |
US6636148B2 (en) * | 2000-09-04 | 2003-10-21 | Fujitsu Ten Limited | Periphery monitoring system |
JP3897337B2 (ja) * | 2002-02-08 | 2007-03-22 | 株式会社東芝 | 路肩検出装置及び方法 |
JP2005214914A (ja) * | 2004-02-02 | 2005-08-11 | Fuji Heavy Ind Ltd | 移動速度検出装置および移動速度検出方法 |
WO2006074298A2 (en) * | 2005-01-06 | 2006-07-13 | Alan Shulman | Navigation and inspection system |
JP4341564B2 (ja) * | 2005-02-25 | 2009-10-07 | 株式会社豊田中央研究所 | 対象物判定装置 |
CN101167085B (zh) * | 2005-04-18 | 2011-11-23 | 英特尔公司 | 通过跟踪行人从视频序列进行三维道路布局估计 |
JP4632987B2 (ja) * | 2006-03-28 | 2011-02-16 | 株式会社パスコ | 道路画像解析装置及び道路画像解析方法 |
JP5109691B2 (ja) * | 2008-01-31 | 2012-12-26 | コニカミノルタホールディングス株式会社 | 解析装置 |
JP2010055340A (ja) * | 2008-08-28 | 2010-03-11 | Hirosaki Univ | 走行路推定装置及びプログラム |
JP5325765B2 (ja) * | 2009-12-28 | 2013-10-23 | 日立オートモティブシステムズ株式会社 | 路肩検出装置及び路肩検出装置を用いた車両 |
JP6110256B2 (ja) * | 2013-08-21 | 2017-04-05 | 株式会社日本自動車部品総合研究所 | 対象物推定装置および対象物推定方法 |
JP6151150B2 (ja) * | 2013-10-07 | 2017-06-21 | 日立オートモティブシステムズ株式会社 | 物体検出装置及びそれを用いた車両 |
US10318823B2 (en) * | 2013-10-14 | 2019-06-11 | Mobileye Vision Technologies Ltd. | Forward-facing multi-imaging system for navigating a vehicle |
JP6160634B2 (ja) * | 2015-02-09 | 2017-07-12 | トヨタ自動車株式会社 | 走行路面検出装置及び走行路面検出方法 |
JP6350374B2 (ja) * | 2015-04-17 | 2018-07-04 | トヨタ自動車株式会社 | 路面検出装置 |
JP2016206774A (ja) * | 2015-04-17 | 2016-12-08 | トヨタ自動車株式会社 | 立体物検出装置及び立体物検出方法 |
JP6453192B2 (ja) * | 2015-09-25 | 2019-01-16 | 日立オートモティブシステムズ株式会社 | 画像認識処理装置、及びプログラム |
JP6657789B2 (ja) * | 2015-10-29 | 2020-03-04 | 株式会社リコー | 画像処理装置、撮像装置、機器制御システム、頻度分布画像生成方法、及びプログラム |
US10139827B2 (en) * | 2016-06-28 | 2018-11-27 | Ford Global Technologies, Llc | Detecting physical threats approaching a vehicle |
-
2017
- 2017-09-29 JP JP2017191563A patent/JP6936098B2/ja active Active
-
2018
- 2018-09-27 DE DE102018123861.4A patent/DE102018123861A1/de active Pending
- 2018-09-28 US US16/145,346 patent/US10853666B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019066302A (ja) | 2019-04-25 |
US20190102633A1 (en) | 2019-04-04 |
US10853666B2 (en) | 2020-12-01 |
DE102018123861A1 (de) | 2019-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6936098B2 (ja) | 対象物推定装置 | |
JP5089545B2 (ja) | 道路境界検出判断装置 | |
US9912933B2 (en) | Road surface detection device and road surface detection system | |
JP6372228B2 (ja) | 衝突予想時間算出装置 | |
KR20180060784A (ko) | 비정상 객체 판단 방법 및 장치 | |
JP6003673B2 (ja) | 3次元位置推定装置、車両制御装置、および3次元位置推定方法 | |
JP2013190421A (ja) | 車両において通行物体位置検出を向上する方法 | |
RU2626424C1 (ru) | Устройство оценки позиции и угла пространственной ориентации транспортного средства и способ оценки позиции и угла пространственной ориентации транспортного средства | |
JP2017138660A (ja) | 物体検出方法、物体検出装置、およびプログラム | |
JP2019067116A (ja) | 立体物接地判定装置 | |
JP6849569B2 (ja) | 路面検出装置 | |
JP6115429B2 (ja) | 自車位置認識装置 | |
JP6169949B2 (ja) | 画像処理装置 | |
JP7071154B2 (ja) | 道路境界検出装置 | |
JP4502733B2 (ja) | 障害物測定方法及び障害物測定装置 | |
KR101618501B1 (ko) | 자차량의 에고 모션 추정방법 | |
JP6690510B2 (ja) | 物体認識装置 | |
CN111989541B (zh) | 立体摄像机装置 | |
JP6488226B2 (ja) | 走路パラメータ推定装置及びプログラム | |
JP4768499B2 (ja) | 車載周辺他車検出装置 | |
JP6259239B2 (ja) | 車両用白線認識装置 | |
JP2004038760A (ja) | 車両用走行路認識装置 | |
JP5472137B2 (ja) | 境界検出装置、および境界検出プログラム | |
EP3716137A1 (en) | Systems and methods for estimating the position of a target vehicle | |
EP3540643A1 (en) | Image processing apparatus and image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201130 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210826 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6936098 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |