JP2015194373A - 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム - Google Patents

車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム Download PDF

Info

Publication number
JP2015194373A
JP2015194373A JP2014071929A JP2014071929A JP2015194373A JP 2015194373 A JP2015194373 A JP 2015194373A JP 2014071929 A JP2014071929 A JP 2014071929A JP 2014071929 A JP2014071929 A JP 2014071929A JP 2015194373 A JP2015194373 A JP 2015194373A
Authority
JP
Japan
Prior art keywords
line segment
image
map
vehicle
distribution information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014071929A
Other languages
English (en)
Other versions
JP6278790B2 (ja
Inventor
孝介 原
Kosuke Hara
孝介 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2014071929A priority Critical patent/JP6278790B2/ja
Publication of JP2015194373A publication Critical patent/JP2015194373A/ja
Application granted granted Critical
Publication of JP6278790B2 publication Critical patent/JP6278790B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Instructional Devices (AREA)
  • Navigation (AREA)

Abstract

【課題】低い処理負荷で、自車両の位置を正確に検出できる車両位置検出装置を提供する。【解決手段】車両位置検出装置は、道路上にある物体の輪郭を表す各地図線分の位置を含む地図と、局所ごと、かつ、地図線分の向きごとの地図線分の分布を表す地図線分分布情報を記憶する記憶部と、車両に搭載された撮像部が車両の周囲を撮影して得られた画像から、その画像に写っている道路上の物体の輪郭を表す複数の線分を抽出する線特徴抽出部432と、画像上で、局所ごと、かつ、線分の向きごとの線分の分布を表す画像線分分布情報を求める線分布情報算出部433と、地図上に設定される複数の仮想撮影点のそれぞれについて、仮想撮影点における地図線分分布情報と画像線分分布情報間の一致度合を表す評価値を算出し、評価値が最大となる仮想撮影点を車両の位置とする比較部435とを有する。【選択図】図9

Description

本発明は、車両に搭載されたカメラにより撮影された画像と地図を利用してその車両の位置を検出する車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システムに関する。
従来より、ナビゲーションまたは運転支援のために、Global Positioning System(GPS)信号を利用して、走行中の自車両の位置を検出することが行われている。しかし、車両の近くに、高層建築物など、GPSの測位衛星からの測位信号を遮る構造物が存在する場合、車両において測位信号を受信することが困難となり、自車両の位置を正確に検出できないことがあった。そこで、車載カメラにより撮影された、車両周囲の画像と、事前に準備された地図などの情報とを対応付けることで、自車両の位置の検出精度を向上させる方法が提案されている(例えば、特許文献1〜3及び非特許文献1を参照)。
例えば、特許文献1に記載の位置測位装置は、車両の前方を撮影する撮影手段により撮影した画像の中にある道路標示に基づいて現在位置を特定する。
また、特許文献2に記載された移動体位置測定装置は、地図上の参照地点付近で移動体に搭載された撮像部が撮影して得た画像から抽出した特徴情報と、地図の参照地点付近の画像から抽出した特徴情報とをマッチングして推定した参照地点付近の複数の特徴の位置に応じて移動体の現在位置を推定する。
また、特許文献3に記載された方法は、車両の進行方向の画像データに対してテンプレートマッチングを適用することで、画像内で識別された光学指標に関して車両の位置を決定する。
さらに、非特許文献1に記載された方法は、縁石及び道路標示を表す線分含む地図とステレオカメラにより得られた画像から抽出された特徴点とのマッチングにより、自車両の位置を検出する。
特開2007−108043号公報 特開2012−127896号公報 特開2005−136946号公報
Schreiber他、「LaneLoc: Lane Marking based Localization using Highly Accurate Maps」、Intelligent Vehicles Symposium (IV)、2013 IEEE、IEEE、2013
しかし、特許文献1に記載の装置は、撮影時の環境の影響などにより、道路標示の特徴点の検出が困難な場合、自車両の位置を正確に特定できないおそれがある。特に、特許文献1に記載の装置は、道路標示の端点などを特徴点として抽出し、その特徴点を用いて車両の現在位置を求めるので、道路標示の経年劣化などにより、道路標示の端点がわずかに掠れるだけでも抽出された特徴点の位置がずれてしまい、自車両の位置の検出精度の低下を招いてしまう。
また、特許文献2に記載の装置は、地図の参照地点付近で撮影された画像を自車両の位置の特定に利用するが、参照地点の付近の建物の建て替え、あるいは、撮影時の環境(例えば、天候、撮影時間帯など)によって、同じ場所について撮影された画像であっても、事前登録時に撮影された画像に写っている景色と、自車両位置の検出時に撮影された画像に写っている景色は大きく異なることがある。このような場合、画像間のマッチングに失敗する可能性が高くなり、そのため、自車両の位置を正確に特定できないおそれがある。
さらに、特許文献3に記載の方法は、テンプレートマッチングを利用している。テンプレートマッチングでは、比較対象となる画像とテンプレート間の位置を変えつつ、繰り返しマッチング演算する必要が有るため、自車両の位置の検出に要する演算量が多い。また、非特許文献1に記載の方法では、縁石の検出と道路標示の検出に異なるアルゴリズムが利用されており、それらの検出にステレオ画像を利用するので、演算量が多い。そのためこれらの方法では、自車両の位置の検出に必要なハードウェアリソースが増えてしまうか、あるいは、自車両の位置の検出に時間を要するので、自車両の位置の更新間隔が長くなってしまう。
そこで、本発明は、低い処理負荷で、自車両の位置を正確に検出できる車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システムを提供することを目的とする。
請求項1の記載によれば、本発明の一つの形態として、車両位置検出装置が提供される。この車両位置検出装置は、道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図と、局所ごと、かつ、地図線分の向きごとの地図線分の分布を表す地図線分分布情報を記憶する記憶部(41)と、車両(10)に搭載された撮像部(2)が車両(10)の周囲を撮影して得られた画像から、その画像に写っている道路上の物体の輪郭を表す複数の線分を抽出する線特徴抽出部(432、532)と、画像上で、局所ごと、かつ、線分の向きごとの線分の分布を表す画像線分分布情報を求める線分布情報算出部(433、534)と、地図上に設定される複数の仮想撮影点のそれぞれについて、仮想撮影点における地図線分分布情報と画像線分分布情報間の一致度合を表す評価値を算出し、評価値が最大となる仮想撮影点を車両の位置とする比較部とを有する。
本発明による車両位置検出装置は、上記の構成を有することにより、低い処理負荷で、自車両の位置を正確に検出できる。
また請求項2の記載によれば、記憶部(41)は、複数の仮想撮影点のそれぞれについて、仮想撮影点から、撮像部(2)で地図を仮想的に撮影して得られる仮想画像を分割した複数の格子のそれぞれについて、格子に含まれる、仮想画像上に表された地図線分の向きごとの分布を地図線分分布情報として記憶することが好ましい。この場合において、線分布情報算出部(433)は、画像を複数の格子に分割し、複数の格子のそれぞれについて、格子に含まれる、画像上に表された線分の向きごとの分布を画像線分分布情報とすることが好ましい。
このような構成を有することで、車両位置検出装置は、仮想撮影点ごとに、撮像部により実際に車両の周囲を撮影して得られる画像と同じように見える仮想画像から得られる地図線分分布情報を画像線分分布情報との比較に利用するので、地図線分分布情報と画像線分分布情報とを適切に比較できる。そのため、車両位置検出装置は、仮想撮影点のうち、車両の位置に最も近い仮想撮影点を正確に特定できる。
また請求項3の記載によれば、車両位置検出装置は、複数の線分のそれぞれを鳥瞰変換して、車両(10)を基準とする車両座標系での複数の線分のそれぞれの位置を表す鳥瞰画像を求める鳥瞰変換部(533)をさらに有することが好ましい。この場合において、記憶部(41)は、地図を分割した複数の第1の格子のそれぞれについて、第1の格子に含まれる、地図上に表された地図線分の向きごとの分布を記憶し、線分布情報算出部(534)は、鳥瞰画像を複数の第2の格子に分割し、複数の第2の格子のそれぞれについて、第2の格子に含まれる、鳥瞰画像上に表された線分の向きごとの分布を画像線分分布情報とし、比較部(536)は、複数の仮想撮影点のそれぞれについて、仮想撮影点に応じて車両座標系での複数の第2の格子のそれぞれに対応する第1の格子を特定し、複数の第2の格子のそれぞれに対応する第1の格子のそれぞれの地図線分の向きごとの分布を、仮想撮影点についての地図線分分布情報とすることが好ましい。
このような構成を有することで、車両位置検出装置は、撮像部により実際に車両の周囲を撮影して得られる画像を地図と同じように見える鳥瞰画像から得られる画像線分分布情報を地図線分分布情報との比較に利用する。また、車両位置検出装置は、仮想撮影点に応じて、第2の格子のそれぞれに対応する第1の格子を特定するので、仮想撮影点ごとに、画像線分分布情報と比較すべき地図線分分布情報を適切に設定できる。そのため、車両位置検出装置は、仮想撮影点のうち、車両の位置に最も近い仮想撮影点を正確に特定できる。
さらに、請求項4の記載によれば、複数の地図線分のそれぞれについて、地図線分を横切る方向の輝度勾配の向きに応じて地図線分の向きが設定され、線特徴抽出部(432、532)は、検出した線分のそれぞれについて、その線分を横切る方向の輝度勾配の向きを求め、輝度勾配の向きに応じてその線分の向きを設定することが好ましい。
このような構成を有することで、車両位置検出装置は、画像線分分布情報と地図線分分布情報の比較において、道路上の物体に対する輪郭の位置の違いも評価することができる。そのため、この車両位置検出システムは、車両の位置をより正確に検出できる。
また、請求項5の記載によれば、本発明の他の形態として、車両位置検出方法が提供される。この車両位置検出方法は、車両(10)に搭載された撮像部(2)が車両(10)の周囲を撮影して得られた画像から、その画像に写っている道路上の物体の輪郭を表す複数の線分を抽出するステップと、画像上で、局所ごと、かつ、線分の向きごとの線分の分布を表す画像線分分布情報を求めるステップと、道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図上に設定される複数の仮想撮影点のそれぞれについて、仮想撮影点における、局所ごと、かつ、地図線分の向きごとの地図線分の分布を表す地図線分分布情報と画像線分分布情報間の一致度合を表す評価値を算出し、評価値が最大となる仮想撮影点を前記車両(10)の位置とするステップとを含む。
本発明による車両位置検出方法は、上記のステップを有することにより、低い処理負荷で、自車両の位置を正確に検出できる。
また、請求項6の記載によれば、本発明のさらに他の形態として、車両位置検出用コンピュータプログラムが提供される。このコンピュータプログラムは、車両(10)に搭載された撮像部(2)が車両(10)の周囲を撮影して得られた画像から、その画像に写っている道路上の物体の輪郭を表す複数の線分を抽出するステップと、画像上で、局所ごと、かつ、線分の向きごとの線分の分布を表す画像線分分布情報を求めるステップと、道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図上に設定される複数の仮想撮影点のそれぞれについて、仮想撮影点における、局所ごと、かつ、地図線分の向きごとの地図線分の分布を表す地図線分分布情報と画像線分分布情報間の一致度合を表す評価値を算出し、評価値が最大となる仮想撮影点を前記車両(10)の位置とするステップと、を車両(10)に搭載されたプロセッサ(43)に実行させる命令を含む。
本発明による車両位置検出用コンピュータプログラムは、上記の命令を有することにより、低い処理負荷で、自車両の位置を正確に検出できる。
また、請求項7の記載によれば、本発明のさらに他の形態として、車両位置検出システムが提供される。この車両位置検出システムは、車両(10)に搭載され、車両(10)の周囲を撮影して画像を生成する撮像部(2)と、道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図と、局所ごと、かつ、地図線分の向きごとの地図線分の分布を表す地図線分分布情報を記憶する記憶部(41)と、撮像部(2)から画像を取得する通信部(42)と、制御部(43)とを有する。制御部(43)は、画像に写っている道路上の物体の輪郭を表す複数の線分を抽出し、画像上で、局所ごと、かつ、線分の向きごとの線分の分布を表す画像線分分布情報を求め、地図上に設定される複数の仮想撮影点のそれぞれについて、仮想撮影点における地図線分分布情報と画像線分分布情報間の一致度合を表す評価値を算出し、評価値が最大となる仮想撮影点を車両(10)の位置とする制御部(43)とを有する。
本発明による車両位置検出システムは、上記の構成を有することにより、低い処理負荷で、自車両の位置を正確に検出できる。
上記各部に付した括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示す一例である。
本発明の一つの実施形態に係る車両位置検出システムの概略構成図である。 世界座標系と、車両座標系と、カメラ座標系の関係を示す図である。 地図情報の一例を示す図である。 (a)は、輪郭を表す線分を横切る方向の輝度勾配とその線分に設定される向きの関係の一例を示す図であり、(b)は、白線について設定される各線分の向きの一例を示す図である。 仮想撮影点の設定例を示す図である。 仮想撮影点から地図に示された線分を仮想的に撮影して得られる仮想画像の例を示す図である。 仮想画像に設定される格子の一例を示す図である。 格子ごとに算出される線分の向きごとの線分の長さのヒストグラムの一例を示す図である。 本発明の第1の実施形態に係る車両位置検出システムの制御部の機能ブロック図である。 抽出された線分の一例を示す図である。 画像に設定される格子の一例を示す図である。 第1の実施形態による車両位置検出処理の動作フローチャートである。 地図に設定される格子の一例を示す図である。 第2の実施形態に係る車両位置検出システムの制御部の機能ブロック図である。 抽出された線分を鳥瞰変換することで得られた鳥瞰画像の一例である。 鳥瞰画像に設定される格子の一例を示す図である。 第2の実施形態による車両位置検出処理の動作フローチャートである。
以下、図を参照しつつ、複数の実施形態による、車両位置検出システムについて説明する。
この車両位置検出システムは、車両の周囲を撮影するカメラから取得された画像から、区画線または道路標示などの輪郭に相当する線分を検出する。この車両位置検出システムは、その画像上での局所ごと、かつ、線分の向きごとの線分の分布と、区画線または道路標示などの輪郭に相当する線分を含む地図情報においてその分布と最も一致する位置を見つけることで、車両の位置を検出する。
特に、第1の実施形態では、車両位置検出システムは、車両の周囲を撮影するカメラから得た画像を格子単位で分割し、格子ごとに、線分の向きごとの線分の長さのヒストグラムを作成する。また、この車両位置検出システムは、地図上に仮想撮影点を設定し、仮想撮影点からその地図を仮想的に撮影して得られる仮想画像についても、同様に、格子単位に分割し、格子ごとに、線分の向きごとの線分の長さのヒストグラムを予め記憶しておく。そしてこの車両位置検出システムは、画像から得られた格子ごとのヒストグラムと仮想画像から得られた格子ごとのヒストグラムとを比較することで、画像に最も近い仮想画像を特定することで、自車両の位置を検出する。
図1は、第1の実施形態による車両位置検出システムの概略構成図である。図1に示すように、車両位置検出システム1は、車両10に搭載され、車載カメラ2と、コントローラ4とを有する。車載カメラ2と、コントローラ4とは、コントロールエリアネットワーク(以下、CANという)3によって互いに接続されている。なお、図1では、説明の都合のため、車両位置検出システム1の各構成要素及び車両10の形状、サイズ及び配置は、実際のものとは異なっている。
車載カメラ2は、撮像部の一例であり、車両の前方領域を撮影し、その前方領域の画像を生成する。そのために、車載カメラ2は、CCDあるいはC-MOSなど、可視光に感度を有する光電変換素子のアレイで構成された2次元検出器と、その2次元検出器上に車両10の前方に存在する地面または構造物などの像を結像する結像光学系を有する。そして車載カメラ2は、例えば、結像光学系の光軸が地面に対して略平行となり、かつ車両10の前方を向くように、車両10の車室内に配置される。そして車載カメラ2は、一定の時間間隔(例えば1/30秒)ごとに撮影し、車両10の前方領域を撮影したカラー画像を生成する。なお、車載カメラ2は、近赤外光に感度を有する2次元検出器を有し、その撮像範囲内の近赤外光の照度に応じたグレー画像を生成してもよい。
図2は、世界座標系と、車両座標系と、カメラ座標系の関係を示す図である。本実施形態では、便宜上、実空間の任意の位置を原点とする世界座標系(Xw, Yw, Zw)と、車両10を原点とする車両座標系(Xv, Yv, Zv)と、車載カメラ2を原点とするカメラ座標系(Xc, Yc, Zc)を利用する。本実施形態では、車両座標系(Xv, Yv, Zv)は、車両10の左右の後輪間の中点かつ地面上の点を原点とする。そして車両の進行方向をZv軸とし、Zv軸と直交し、かつ、地面に平行な方向をXv軸とし、鉛直方向をYv軸とする。また世界座標系(Xw, Yw, Zw)においても、地面に平行な面内にXw軸及びZw軸が設定され、鉛直方向にYw軸が設定される。また、カメラ座標系(Xc, Yc, Zc)では、説明の簡単化のために、車両座標系の原点から鉛直方向に沿って上方かつ車載カメラ2が設置される高さの位置に撮像面の中心があると仮定して、その撮像面の中心を原点とする。そして車両座標系と同様に、車両の進行方向をZc軸とし、Zc軸と直交し、かつ、地面に平行な方向をXc軸とし、鉛直方向をYc軸とする。
なお、実際に車載カメラ2が取り付けられる位置は、車両10の左右の後輪間の中点の上方からずれていることもあるが、このずれは、単純な平行移動によって補正すればよい。
なお、車両位置検出システム1は、撮像部として、車両10の前方領域を撮影するカメラの代わりに、あるいはそのカメラとともに、車両の後方領域を撮影するリアカメラを有していてもよい。
車載カメラ2は、生成した画像を逐次コントローラ4へ送信する。なお、車両の前方領域を撮影する車載カメラと車両の後方領域を撮影する車載カメラが取り付けられている場合、コントローラ4は、車両が進行している方向を撮影する車載カメラからの画像のみを選択的に取得してもよい。そのために、コントローラ4は、CAN3を介して車両10の電子制御ユニット(ECU)11から、シフトレバーのポジションを表すシフトポジション信号を取得する。そしてコントローラ4は、シフトポジション信号が、車両10が前進することを示すドライブポジジョンなどとなっている場合、車両の前方領域を撮影する車載カメラから画像を取得する。一方、コントローラ4は、シフトポジション信号が、車両10が後進することを示すリバースポジションとなっている場合、車両の後方領域を撮影する車載カメラから画像を取得する。
コントローラ4は、車両位置検出装置の一例であり、記憶部41と、通信部42と、制御部43とを有する。記憶部41は、例えば、電気的に書き換え可能な不揮発性メモリ及び揮発性メモリなどの半導体メモリを有する。そして記憶部41は、車両位置検出システム1を制御するための各種プログラム、地図情報、車載カメラ2の地面からの高さ及び光軸方向といった車載カメラの位置情報、結像光学系の焦点距離及び画角といったカメラパラメータなどの各種パラメータ、及び制御部43による一時的な演算結果などを記憶する。また記憶部41は、車載カメラ2の結像光学系による歪曲収差を補正するためのパラメータ、例えば、画素ごとの歪曲収差の補正量(すなわち、歪曲収差を打ち消すための画像上での画素の移動量及び移動方向)を記憶してもよい。
また、通信部42は、車載カメラ2、ECU11及び車輪速センサ(図示せず)などの各種センサとCAN3を通じて通信する通信インターフェース及びその制御回路を有する。
以下、車両位置検出に利用される、地図関連の情報について説明する。
図3は、地図情報の一例を示す図である。地図情報300は、その地図情報で表された領域の位置を表す緯度経度情報と関連付けられている。そして地図情報300は、縁石などによる段差、白線、黄線といった区画線、及び、横断歩道、停止線などの道路標示に関する情報を含む。具体的には、線分301で示されるように、段差、各区画線及び道路表示のそれぞれの輪郭が線分で近似され、各線分の始点の座標or sと終点の座標or e(世界座標系で表される)が地図情報300に含まれる。さらに、各線分には、その線分が表している物体の種別(例えば、段差、白線、黄線、横断歩道など)を表すラベルが関連付けられる。なお、以下では、地図情報に含まれる線分を地図線分と呼ぶ。
区画線などの輪郭を表す各線分には、その線分を横切る方向の輝度勾配に応じた向きが設定される。
図4(a)は、輪郭を表す線分を横切る方向の輝度勾配とその線分に設定される向きの関係の一例を示す図である。図4(a)に示される矢印401〜408は、それぞれ、線分の向きを表し、45°間隔で設定される。矢印401〜408の根元が始点sに対応し、矢印401〜408の先端が終点eに対応する。そして矢印401〜408には、線分の始点sから終点eを見たときの、線分の左右それぞれの相対的な輝度が示されている。この例では、始点sから終点eを見たときに、線分の左から右へ向けて輝度が低下するように、線分の向き、すなわち、線分の始点及び終点が設定される。例えば、矢印401に示されるように、垂直方向(すなわち、Zw軸方向)の線分であり、かつ、右側の輝度よりも左側の輝度の方が高い場合には、始点sよりも終点eの方がZw軸の座標値が大きくなるように、始点s及び終点eが設定される。逆に、矢印405に示されるように、垂直方向(すなわち、Zw軸方向)の線分であり、かつ、左側の輝度よりも右側の輝度の方が高い場合には、始点sよりも終点eの方がZw軸の座標値が小さくなるように、始点s及び終点eが設定される。
図4(b)は、白線について設定される各線分の向きの一例を示す図である。白線410の輪郭は、4個の線分411〜414で表される。各線分の向きは矢印で表される。白線410の輝度は、その周囲の輝度よりも高い。そのため、白線410の右側の輪郭を表す線分411は、図4(a)の矢印408に対応するので、Zw軸の下端に近い方の端点が始点sとなり、Zw軸の上端に近い方の端点が終点eとなっている。逆に、白線410の左側の輪郭を表す線分413は、図4(a)の矢印404に対応するので、Zw軸の下端に近い方の端点が終点eとなり、Zw軸の上端に近い方の端点が始点sとなっている。同様に、矢印412は、図4(a)の矢印406に対応するので、右側の端点が始点sとなり、左側の端点が終点eとなる。また、矢印414は、図4(a)の矢印402に対応するので、左側の端点が始点sとなり、右側の端点が終点eとなる。
このように、線分の向きを参照することで、その線分が区画線などのどちら側の輪郭を表しているかが分かる。
なお、段差またはマンホールの輪郭のように、線分と直交する方向の輝度勾配の大きさが所定値よりも小さい線分については、向きは設定されなくてもよい。この場合には、例えば、線分に向きが設定されていないことを表すフラグが対応付けられる。そしてその線分の両端点の何れが始点であってもよい。
次に、地図情報から作成される、局所ごと、かつ、線分の向きごとの線分の分布を表す地図線分分布情報の一例である記述子について説明する。上述したように、本実施形態では、地図上に設定される仮想撮影点ごとに、その仮想撮影点に対応する仮想画像から、局所ごと、かつ、線分の向きごとの線分の分布を表す記述子が作成される。
図5は、仮想撮影点の設定例を示す図である。地図500には、世界座標系で複数の仮想撮影点501が設定されている。隣接する仮想撮影点間の間隔は、例えば、要求される車両の位置の検出精度に応じた間隔(例えば、1m〜5m)に設定される。また、各仮想撮影点501には、矢印502に示されるように、複数の撮影方向が設定されてもよい。この撮影方向は、仮想的な車両10の方位に対応する。なお、撮影方向は、想定される車両10の進行方向についてのみ設定されてもよい。例えば、2車線の道路では、左側の車線上に設定される仮想撮影点については、Zw軸の値が正となる方向についてのみ、撮影方向が設定され、一方、右側の車線上に設定される仮想撮影点については、Zw軸の値が負となる方向についてのみ、撮影方向が設定されてもよい。
仮想撮影点及び撮影方向が設定されると、その仮想撮影点から設定された撮影方向に向けて地図上に記載された道路上の物体を表す地図線分を仮想的に撮影した仮想画像が生成される。仮想画像は、例えば、車載カメラ2により生成される画像と同サイズとすることが好ましい。
地図上でのr番目(r=1,2,...,R)の地図線分の始点をor s=(or sx,or sz)t、終点をor e=(or ex,or ez)tとすると、仮想画像上でのその地図線分の始点lr s=(lr su,lr sv) t及び終点lre=(lr eu,lr ev)tは、次式で算出される。
Figure 2015194373
ここで、回転行列Rvg kは、k番目の仮想撮影点(ただし、個々の仮想撮影点は、世界座標系で表される位置だけでなく、撮影方向も含めて設定される)に対応する回転行列であり、θkは、その撮影方向である。また並進行列tvgは、世界座標系でのk番目の仮想撮影点の位置を表す。また、(cu,cv)、(fu,fv)は内部パラメータであり、具体的に、(cu,cv)は、車載カメラ2の光軸に対応する画像上の点、すなわち、画像中心の座標である。また(fu,fv)は、水平方向と垂直方向の1画素あたりのサイズの違いを考慮した、車載カメラ2の焦点距離に対応する値である。またycは、路面から車載カメラ2までの高さを表す。そして(βr skxr skz)、(βr ekxr ekz)は、それぞれ、車両10がk番目の仮想撮影点の位置にいて撮影方向がθkである場合の地図線分(or s, or e)を車両座標系で表したときの始点及び終点の座標である。なお、この例では、仮想撮影を行うカメラの光軸が地図上の路面と平行であると仮定して、(1)式の各パラメータが設定されている。
なお、両端点の何れもが仮想撮影点から所定距離以上離れている地図線分については、仮想画像上での対応する線分を求めなくてもよい。このような地図線分は、仮想画像上で小さくしか写らず、車両位置の検出に利用すると、誤差が大きくなり、位置検出の精度が低下してしまうおそれがあるからである。なお所定距離は、例えば、30mに設定される。
図6は、仮想撮影点から地図線分を仮想的に撮影して得られる仮想画像の例を示す図である。仮想画像602は、地図600上の仮想撮影点601から仮想的に撮影して得られる画像である。
局所ごと、かつ、線分の向きごとの線分の分布を調べるために、各仮想画像は、格子状に分割される。
図7は、図6に示された仮想画像に設定される格子の一例を示す図である。図7に示されるように、仮想画像700は、個々の格子701に複数の地図線分が含まれることが可能なように分割される。一つの格子のサイズは、例えば、30画素×30画素に設定される。また便宜上、個々の格子には、ラスタスキャン順に番号j=1,2,...,Jが設定される。
格子ごと、かつ、線分の向きごとの地図線分の分布を表すヒストグラムが生成される。このヒストグラムでは、個々のビンが等角度間隔、例えば、π/8(=45°)間隔で設定される。さらに、格子内に地図線分が含まれていない場合に対応するために、線分無しに相当するビンが追加される。
またこの例では、ビンごとの線分の度数は、そのビンに対応する向きを持ち、格子に含まれる線分の長さの合計で表される。例えば、基準となる方向(例えば、水平方向)を0°とし、地図線分の始点を回転中心として、基準となる方向とその地図線分のなす、反時計回りの角度に相当するビンが、その地図線分の長さを加算すべきビンとなる。このように角度を規定することで、区画線または道路標示といった、周囲よりも明るい物体の輪郭を表す地図線分に関して、その物体に対して隣接している方向を区別して、地図線分の分布が求められる。
なお、段差を表す線分のように、向きが設定されていない地図線分については、その地図線分と基準となる方向とがなす角度に相当するビンと、その角度に180°加算または減算した角度に相当するビンとに、それぞれ、その地図線分の半分の長さを加算すればよい。
格子内の全ての地図線分の長さが加算されると、各ビンの線分の長さの合計が1となるように、ヒストグラムは正規化される。
図8は、格子ごとに算出される線分の向きごとの線分の長さの正規化ヒストグラムの一例を示す図である。
図8において、正規化ヒストグラム811は、仮想画像800上の格子801について求められたヒストグラムであり、正規化ヒストグラム812は、仮想画像800上の格子802について求められたヒストグラムである。格子801には、向きの異なる2本の地図線分が含まれているので、正規化ヒストグラム811では、それらの線分の向きに相当する二つのビン821、822の値の合計が1となり、その他のビンの値は0となる。また、格子802には、地図線分が含まれていないので、正規化ヒストグラム812では、'無'に相当するビンの値が1となり、他のビンの値は0となる。
ここで、仮想撮影点yk=(xk,zkk)tに対応する仮想画像上のj番目の格子についての正規化ヒストグラムをηk,jとする。このとき、仮想画像全体にわたって格子の番号順に正規化ヒストグラムを並べた行列ak=(ηk,1k,2,...,ηk,J)tが、仮想撮影点ykに対応する、局所ごと、かつ、線分の向きごとの地図線分の分布を表す。以下、便宜上、akを記述子と呼ぶ。
記憶部41は、仮想撮影点yk(k=1,2,...,K)ごとの記述子ak(k=1,2,...,K)を、その仮想撮影点の世界座標系における座標(xk,zk)及び撮影方向θkとともに記憶する。
制御部43は、1個もしくは複数個の図示していないプロセッサ及びその周辺回路を有する。そして制御部43は、車両位置検出システム1全体を制御する。
図9に、第1の実施形態による、制御部43の機能ブロック図を示す。図9に示すように、制御部43は、初期値設定部431と、線特徴抽出部432と、線分布情報算出部433と、検索範囲設定部434と、比較部435とを有する。制御部43が有するこれらの各部は、例えば、制御部43が有するプロセッサ上で実行されるコンピュータプログラムによって実現される機能モジュールとして実装される。
初期値設定部431は、本実施形態による、車両10の位置の検出、すなわち、自車両の位置の検出を開始する際の自車両の位置の初期値を設定する。例えば、初期値設定部431は、GPSの測位信号が最後に受信できたときのその測位信号から求められる位置と、自車両の位置の検出を開始する直前において異なる時刻に受信したGPSの測位信号から求めた自車両の位置の変化から算出された自車両の方位を、例えば、ナビゲーションシステムから受信する。そして得られた位置(xt,zt)及び方位θtを、自車両の位置の初期値μt=(xt,ztt)tに設定する。
なお、初期値設定部431により設定される初期値は、本実施形態による自車両の位置の検出精度よりも低い検出精度で得られる値であってもよい。
初期値設定部431により設定された自車両の位置の初期値は、記憶部41に記憶される。
線特徴抽出部432は、車載カメラ2が生成した画像のうち、現時刻tに最も近い時刻に生成された画像から線分を抽出する。その際、線特徴抽出部432は、Line Segment Detector(LSD)と呼ばれる検出器を画像に適用することで線分を抽出する。なお、LSDについては、例えば、Rafael Grompone von Gioi他、「LSD: A Fast Line Segment Detector with a False Detection Control」、Pattern Analysis and Machine Intelligence、IEEE Transactions、vo. 32、no. 4、pp.722-732、2010年4月を参照されたい。
なお、線特徴抽出部432は、画像から線分を検出するための他の様々な手法のうちの何れかを車載カメラ2から取得された画像に適用して、線分を抽出してもよいい。
また、線特徴抽出部432は、車載カメラ2から取得された画像から線分を抽出する前に、その画像に対して歪曲収差などによる画像の歪みを補正してもよい。
図10は、画像から抽出された線分の一例を示す図である。画像1000において、線分1001が線特徴抽出部432により抽出された線分である。図10に示されるように、線分1001は、区間線の輪郭、道路標示の輪郭あるいは段差などに沿って抽出される。
本実施形態では、車両位置検出システム1は、変更されることが比較的少ない、道路標示といった道路上の情報を利用し、道路脇の建物の建て替えなどにより影響される、路面よりも上方にある情報は利用しない。そこで、線特徴抽出部432は、抽出された線分のうち、線分の両端点の垂直方向の座標値が所定の閾値Th未満となる線分を消去する。ただし、画像上では、左上端画素を原点とし、下方に行くほど垂直方向の座標値は大きくなるものとする。すなわち、線分の両端点の垂直方向の座標値が所定の閾値Thよりも上側に位置する線分が消去される。また本実施形態では、車載カメラ2の光軸が路面と平行となるように車載カメラ2は設置されているので、画像中心を含む水平方向の線が地平線に相当する。そこで所定の閾値Thは、画像中心の高さから所定のオフセット(例えば、5〜10)を減じた値とすることができる。
上記のように、区画線または道路標示の輪郭線などが、線分として抽出される。そのため、抽出された線分を横切る方向に沿って輝度が変化することがある。そこで線特徴抽出部432は、抽出された線分が、輝度の明るい物(白線、黄線、道路標示)のどちら側に隣接する輪郭線であるかが分かるように、例えば、図4(a)に示される矢印401〜408に従って、抽出された線分の向きを設定する。すなわち、線特徴抽出部432は、抽出された線分の両端点の一方を始点とし、他方を終点とする。その際、線特徴抽出部432は、例えば、画像から輝度勾配画像を生成し、線分上の各画素の輝度勾配の方向のメディアン値を算出する。そして線特徴抽出部432は、そのメディアン値により、線分の左側及び右側のうちの輝度の高い方を特定すればよい。なお、線分上の各画素についての輝度勾配の大きさの平均値が所定の閾値よりも小さい場合には、線特徴抽出部432は、その線分の両端のうちの何れを始点としてもよい。そして線特徴抽出部432は、その線分に、向きが設定されていないことを表すフラグを関連付ける。
線特徴抽出部432は、抽出された線分の始点と終点の座標を記憶部41に記憶する。
線分布情報算出部433は、仮想画像について算出される記述子と同様に、画像を格子単位に分割し、格子ごとに、線分の向きごとの線分の長さの正規化ヒストグラムを算出する。この場合も、正規化ヒストグラムには、個々のビンが等角度間隔(例えば、π/8間隔)で設定されるとともに、線分が含まれない格子に対応するように、線分無のビンが設けられる。また、線分布情報算出部433は、仮想画像について記述子を算出する際と同様に、各格子について、各ビンごとの線分の長さの合計を求め、ビンごとの長さの合計が1となるようにヒストグラムを正規化する。
ここで、画像上のj番目の格子についての正規化ヒストグラムをκjとする。線分布情報算出部433は、画像全体にわたって格子の番号順に正規化ヒストグラムを並べた記述子λ=(κ12,...,κJ)tを作成する。この記述子λは、局所ごと、かつ、線分の向きごとの画像に写った、路面にある物体の輪郭などの線分の分布を表す画像線分分布情報の一例である。
図11は、画像に設定される格子の一例を示す図である。画像1100には、仮想画像の水平方向及び垂直方向のそれぞれについて設定される格子の数と同じ数の格子1101が、水平方向及び垂直方向のそれぞれに設定される。また、仮想画像に対して設定される格子と同様の順序、例えば、ラスタスキャン順に、各格子に番号が付与される。すなわち、画像1100に設定されたj番目の格子と、仮想画像について設定された同じj番目の格子とは、それぞれ、画像上の同じ位置に相当する。したがって、車両位置検出システム1は、同一番号の格子についての正規化ヒストグラム同士を比較することで、画像と仮想画像との間で、局所ごと、かつ、線分の向きごとの線分の分布を比較することができる。
線分布情報算出部433は、記述子λを記憶部41に記憶する。
検索範囲設定部434は、仮の自車両の位置に基づいて、現時刻tにおいて自車両が位置する可能性がある範囲を地図上の検索範囲として設定する。仮の自車両の位置は、例えば、車両位置検出処理の初回の実施時であれば、初期値設定部431により設定された自車両の位置の初期値とすることができる。また、前時刻(t-1)において、車両位置検出処理が行われている場合には、仮の自車両の位置を、前時刻(t-1)において検出された自車両の位置とすることができる。また、検索範囲設定部434は、前時刻(t-1)において検出された自車両の位置を、車両10に取り付けられた車速センサまたは操舵角センサなどから受信した車速あるいは操舵角に基づいて予測した、現時刻tにおける自車両の予測位置を、仮の自車両の位置としてもよい。
検索範囲設定部434は、仮の自車両の位置を中心とする所定範囲を検索範囲とする。例えば、GPSまたはGPSを利用するナビゲーションシステムでは、車両位置の検出精度として20m程度の精度が期待できる。そこで検索範囲設定部434は、例えば、仮の自車両の位置を中心とする半径20mの範囲を検索範囲に設定する。あるいは、検索範囲設定部434は、仮の自車両の位置での自車両の進行方向の方位θkに対して±90°内では検索範囲を相対的に広く、例えば、仮の自車両の位置から20m以内を検索範囲とし、一方、方位θkに対して±90°から外れる方向には、検索範囲を相対的に狭く、例えば、仮の自車両の位置から10m以内を検索範囲としてもよい。これにより、検索範囲が狭くなるので、検索範囲内に含まれる仮想撮影点の数が減り、その結果として、後述する比較部435による演算量が削減される。
比較部435は、検索範囲内の仮想撮影点のうち、画像との間で、局所ごと、かつ、線分の向きごとの線分の分布が最も一致する仮想撮影点を特定する。そして比較部435は、特定された仮想撮影点を、現時刻tにおける自車両の位置とする。
そのために、比較部435は、検索範囲に含まれる仮想撮影点についての記述子akを記憶部41から読み込む。そして比較部435は、読み込んだ記述子akのそれぞれについて、画像から得られた記述子λの内積γk=ak tλを、評価値として算出する。この評価値は、その仮想撮影点における、地図線分分布情報と画像線分分布情報の一致度合を表す。比較部435は、評価値γkが最大となる仮想撮影点を、現時刻tにおける自車両の位置とする。
図12は、車両位置検出処理の動作フローチャートである。車両位置検出システム1は、例えば、ナビゲーションシステムから、GPSに基づいて自車両の位置が検出可能になったことを通知されるまで、所定の周期ごとに、例えば、車載カメラ2の撮影周期ごとに、以下に示す動作フローチャートに従って自車両の位置を検出する。
線特徴抽出部432は、車載カメラ2が生成した画像のうち、現時刻tに最も近い時刻に生成された画像から、道路上の線分を抽出する(ステップS101)。そして線特徴抽出部432は、抽出された各線分について、その線分を横切る方向の輝度勾配に応じて線分の向き、すなわち、始点及び終点を設定する(ステップS102)。
線分布情報算出部433は、画像を格子ごとに分割し、各格子について、線分の向きごとの線分の長さの合計を表す正規化ヒストグラムを算出することで、記述子λを求める(ステップS103)。
また、検索範囲設定部434は、仮の自車両の位置に基づいて、地図上の検索範囲を設定する(ステップS104)。比較部435は、検索範囲内の仮想撮影点のそれぞれについて、その仮想撮影点の地図線分分布情報である記述子akと画像線分分布情報である記述子λの内積を計算することで、その仮想撮影点における、記述子akと記述子λ間の、局所ごと、かつ、向きごとの線分の分布の一致度合を表す評価値を算出する(ステップS105)。そして比較部435は、評価値が最大となる仮想撮影点を、現時刻tにおける自車両の位置として検出する(ステップS106)。そして制御部43は、車両位置検出処理を終了する。なお、制御部43は、ステップS101〜103の処理と、ステップS104の処理の順序を入れ替えてもよく、あるいは、並列に実行してもよい。
以上説明してきたように、本発明の第1の実施形態である車両位置検出システムは、テンプレートマッチングのように、繰り返し試行する処理を伴わずに自車両の位置を検出できる。そのため、この車両位置検出システムは、処理負荷を抑制できる。またこの車両位置検出システムは、画像上での道路上の物体を表す線分の局所ごと、かつ、向きごとの分布と、地図から仮想的に得られる仮想画像上での道路上の物体を表す線分の局所ごと、かつ、向きごとの分布とを比較して、その分布が最も一致する仮想撮影点を自車両の位置とするので、自車両の位置を正確に検出できる。また、道路上の物体を表す線分の向きは、道路上の物体の端点などの特徴点よりも、その物体の一部の損耗により影響され難い。そのため、この車両位置検出システムは、路面の環境変化などに対して高いロバスト性を持って自車両の位置を検出できる。さらに、この車両位置検出システムは、線分を横切る方向の輝度勾配を表す情報も線分の向きとして表現するので、線分の分布の比較において、道路上の物体に対する輪郭の位置の違いも評価することができる。そのため、この車両位置検出システムは、自車両の位置を正確に検出できる。
次に、第2の実施形態による、車両位置検出システムについて説明する。この車両位置検出システムでは、地図そのものに格子が設定され、格子ごとに、線分の向きごとの線分の長さの正規化ヒストグラムが予め作成される。一方、この車両位置検出装置は、車載カメラにより得られた画像から抽出した各線分を鳥瞰変換して得られた鳥瞰変換画像に格子を設定し、格子ごとに、線分の向きごとの線分の長さの正規化ヒストグラムを作成する。そしてこの車両位置検出装置は、地図から算出された格子ごとの正規化ヒストグラムと、鳥瞰変換画像から算出された格子ごとの正規化ヒストグラムを比較して、鳥瞰変換画像と最も一致する地図上の位置を検出することで、自車両の位置を検出する。
第2の実施形態による車両位置検出システムは、第1の実施形態による車両位置検出システムと比較して、記憶部41に予め記憶される、地図に関連する情報と、制御部43により行われる処理の一部が異なる。そこで以下では、記憶部41に予め記憶される、地図に関連する情報と、制御部43について説明する。車両位置検出システムのその他の構成要素については、第1の実施形態による車両位置検出システムの対応する構成要素の説明を参照されたい。
本実施形態では、記憶部41は、地図に関連する情報として、地図に対して直接設定した各格子についての線分の向きごとの線分の長さの分布を表す正規化ヒストグラムと、各格子の範囲を記憶する。
図13は、地図に設定される格子の一例を示す図である。図13に示されるように、地図1300に、複数の格子1301が設定される。各格子は、一方の辺がXw軸に沿い、その辺と直交する方向の辺がZw軸に沿うように設定される。また各格子のサイズは、例えば、道路標示が複数の格子に跨り、かつ、一つの区画線の左右の輪郭の一部が一つの格子に含まれる程度のサイズ、例えば、1m×1mに設定される。また各格子には、例えば、ラスタスキャン順に、左上端から順に番号が割り当てられる。
地図に設定された各格子について、格子に含まれる線分の向きごとの線分の長さの正規化ヒストグラムが生成される。この正規化ヒストグラムの生成方法は、第1の実施形態における、仮想画像または画像について設定された格子についての線分の向きごとの線分の長さの正規化ヒストグラムの生成方法と同様である。以下では、便宜上、j番目の格子の正規化ヒストグラムをηj(j=1,2,...,J)と表記する。
図14に、第2の実施形態による、制御部43の機能ブロック図を示す。図14に示すように、制御部43は、初期値設定部531と、線特徴抽出部532と、鳥瞰変換部533と、線分布情報算出部534と、検索範囲設定部535と、比較部536とを有する。制御部43が有するこれらの各部は、例えば、制御部43が有するプロセッサ上で実行されるコンピュータプログラムによって実現される機能モジュールとして実装される。
第1の実施形態による制御部43と比較して、第2の実施形態による制御部43は、鳥瞰変換部533を有する点と、線分布情報算出部534、検索範囲設定部535及び比較部536により行われる処理が異なる。そこで以下では、鳥瞰変換部533、線分布情報算出部534、検索範囲設定部535及び比較部536について説明する。
鳥瞰変換部533は、線特徴抽出部532により画像から抽出された各線分を、記憶部41に記憶されている地図情報に表された各線分と比較できるように、車両10の周囲の路面が平面であると仮定して、車両座標系にて鳥瞰変換する。例えば、鳥瞰変換部533は、次式に従って各線分の始点と終点を鳥瞰変換する。なお、便宜上、以下では、鳥瞰変換された線分を画像線分と呼ぶ。
Figure 2015194373
ここで(ui mt,vi mt)は、現時刻tに最も近い時刻に撮影された画像から抽出された線分のうちのi番目の線分の始点(m=s)または終点(m=e)についての画像上の水平方向の座標値及び垂直方向の座標値を表す。またbi mt=(bi m,x,t,bi m,z,t)tは、抽出された線分のうちのi番目の線分の始点(m=s)または終点(m=e)が鳥瞰変換された位置の車両座標系での位置を表す。そして(cu,cv)、(fu,fv)は内部パラメータであり、具体的に、(cu,cv)は、車載カメラ2の光軸に対応する画像上の点、すなわち、画像中心の座標である。また(fu,fv)は、水平方向と垂直方向の1画素あたりのサイズの違いを考慮した、車載カメラ2の焦点距離に対応する値である。またycは、路面から車載カメラ2までの高さを表す。
図15は、抽出された線分を鳥瞰変換することで得られた鳥瞰画像の一例である。図15に示されるように、鳥瞰画像1500において、各画像線分1501により、区画線、道路標示などが真上から見た形状で表されていることが分かる。
鳥瞰変換部533は、各画像線分の始点と終点の座標を記憶部41に記憶する。
線分布情報算出部534は、鳥瞰画像に基づいて、画像線分分布情報を求める。本実施形態では、線分布情報算出部534は、鳥瞰画像を複数の格子に分割する。
図16は、鳥瞰画像に設定される格子の一例を示す図である。鳥瞰画像1600は、地図に設定される格子と同サイズの格子1601で分割される。また格子には、例えば、ラスタスキャン順に番号が付与される。そして線分布情報算出部534は、鳥瞰画像に設定された各格子について、格子に含まれる線分の向きごとの画像線分の長さの正規化ヒストグラムを算出する。この正規化ヒストグラムの算出方法は、第1の実施形態における、仮想画像または画像について設定された格子についての線分の向きごとの線分の長さの正規化ヒストグラムの算出方法と同様である。そして線分布情報算出部433は、第1の実施形態と同様に、鳥瞰画像全体にわたって格子の番号順に正規化ヒストグラムを並べた記述子λ=(κ12,...,κJ)tを、画像線分分布情報として作成する。ただし、κjは、鳥瞰画像上のj番目の格子についての正規化ヒストグラムを表す。また線分布情報算出部534は、各格子の中心点の座標をχm=(χmxmz)t (m=1,2,...,M)とする。
検索範囲設定部535は、第1の実施形態による検索範囲設定部434と同様に、仮の自車両の位置を中心とする所定範囲を地図上の検索範囲とする。なお、仮の自車両の位置及び所定範囲も、検索範囲設定部434と同様に設定すればよい。
さらに、本実施形態では、検索範囲設定部535は、検索範囲内に1個以上の仮想撮影点を設定する。例えば、検索範囲設定部535は、隣接する仮想撮影点間の間隔が、要求される車両の検出位置の精度(例えば、1m〜5m)と同程度となるように、検索範囲内に等間隔に複数の仮想撮影点を設定する。また第1の実施形態と同様に、検索範囲設定部535は、一つの仮想撮影点に、複数の撮影方向を設定してもよい。以下では、仮想撮影点を、撮影方向を含めてyk=(xk,zkk)t(k=1,2,...,K)と表記する。
比較部536は、鳥瞰画像について求められた画像線分分布情報と、地図線分分布情報とを比較することで、鳥瞰画像と最も一致する地図上の位置を特定し、その位置を現時刻tにおける自車両の位置として検出する。
そのために、比較部536は、仮想撮影点ごとに、鳥瞰画像について設定された各格子の中心点の位置を、仮想撮影点から決定される回転並進行列Rvg k、tvg kを用いて、次式に従って世界座標系の座標に変換する。
Figure 2015194373
ここで、回転行列Rvg kは、k番目の仮想撮影点に対応する回転行列であり、θkは、その仮想撮影点についての撮影方向である。また並進行列tvgは、世界座標系でのk番目の仮想撮影点の位置を表す。またφkmは、k番目の仮想撮影点に対応する回転並進行列にて座標変換することにより世界座標系で表された、m番目(m=1,2,...,M)の格子の中点の座標である。
比較部536は、各仮想撮影点について、中点φkmが含まれる地図上に設定された格子を特定する。そして比較部536は、中点φkm(m=1,2,...,M)の番号順に、その中点が含まれる格子の正規化ヒストグラムを並べたものを、地図線分分布情報の一例である記述子ak=(ηk,1k,2,...,ηk,J)tとする。
さらに、比較部536は、各格子の正規化ヒストグラムηk,jにおいて、仮想撮影点における撮影方向θkによる線分の向きのずれを打ち消すように、線分無しに相当するビンを除く、各ビンの値を、そのθkに相当するビンの数だけシフトさせる。
比較部536は、各仮想撮影点に対応する記述子akのそれぞれについて、鳥瞰画像から得られた記述子λとの内積γk=ak tλを、画像線分分布情報と地図線分分布情報の一致度合を表す評価値として算出する。比較部536は、評価値γkが最大となる仮想撮影点を、現時刻tにおける自車両の位置とする。
図17は、第2の実施形態による車両位置検出処理の動作フローチャートである。
線特徴抽出部532は、車載カメラ2が生成した画像のうち、現時刻tに最も近い時刻に生成された画像から、道路上の線分を抽出する(ステップS201)。そして線特徴抽出部532は、抽出された各線分について、その線分を横切る方向の輝度勾配に応じて線分の向き、すなわち、始点及び終点を設定する(ステップS202)。
鳥瞰変換部533は、各線分の始点及び終点を鳥瞰変換して、各線分について、車両座標系で表される、鳥瞰画像上の位置を特定する(ステップS203)。
線分布情報算出部534は、鳥瞰画像を格子ごとに分割し、各格子について、線分の向きごとの線分の長さの合計を表す正規化ヒストグラムを算出することで、記述子λを求める(ステップS204)。
また、検索範囲設定部535は、仮の自車両の位置に基づいて、地図上の検索範囲を設定する(ステップS205)。そして検索範囲設定部535は、検索範囲内に複数の仮想撮影点を設定する(ステップS206)。
比較部536は、検索範囲内の仮想撮影点のそれぞれについて、その仮想撮影点に対応する回転並進行列を用いて、鳥瞰画像に設定された各格子の中点の位置を世界座標系の位置に変換する(ステップS207)。そして比較部536は、仮想撮影点ごとに、各格子の中点を含む、地図上の格子を特定し、特定された格子の正規化ヒストグラムを、記述子λに記述された格子の順序と同じ順序で並べることで、仮想撮影点ごとの記述子akを求める(ステップS208)。さらに、比較部536は、仮想撮影点における撮影方向θkに応じて、各格子の正規化ヒストグラムにおける線分の向きのずれを補正する(ステップS209)。そして比較部536は、仮想撮影点ごとに、鳥瞰画像から得られた画像線分分布情報である記述子λとその仮想撮影点における地図線分分布情報である記述子akの内積を計算することで、鳥瞰画像と仮想撮影点に対応する位置の地図における、記述子akと記述子λ間の、局所ごと、かつ、向きごとの線分の分布の一致度合を表す評価値を算出する(ステップS210)。そして比較部536は、評価値が最大となる仮想撮影点を、現時刻tにおける自車両の位置として検出する(ステップS211)。そして制御部43は、車両位置検出処理を終了する。なお、制御部43は、ステップS201〜204の処理と、ステップS205〜S206の処理の順序を入れ替えてもよく、あるいは、並列に実行してもよい。
以上説明してきたように、本発明の第2の実施形態である車両位置検出システムも、第1の実施形態である車両位置検出システムと同様の効果を奏する。さらに、第2の実施形態による車両位置検出システムでは、仮想撮影点は、検索範囲の中だけに設定されるので、事前に準備され、記憶部に記憶される情報量が、第1の実施形態よりも少なくてよい。そのため、第2の実施形態による車両位置検出システムは、第1の実施形態よりも、記憶部の記憶容量を削減できる。
以上、本発明の好適な実施形態について説明してきたが、本発明はこれらの実施形態に限定されるものではない。変形例によれば、地図線分及び線特徴抽出部が画像から抽出した線分を横切る方向の輝度勾配の向きに関する情報を、その線分の向きで表す代わりに、他の形式で表してもよい。例えば、線分を横切る方向の輝度勾配の向きは、その線分と関連付けられたフラグによって表されてもよい。例えば、その線分を左から右へ、あるいは上から下へ横切る方向に沿って輝度が低下する場合には、そのフラグの値を'0'とし、その線分を右から左へ、あるいは下から上へ横切る方向に沿って輝度が低下する場合には、そのフラグの値を'1'としてもよい。
上記の実施形態または変形例による車両位置検出システムから出力された自車両の位置は、例えば、CAN3を介して運転支援システムの制御回路(図示せず)へ送信される。運転支援システムの制御回路は、例えば、自車両の位置とその周囲の情報とを比較して、自車両から所定距離範囲内に特定の構造物(例えば、高速道路の料金所、ナビゲーション中の経路において左折または右折が必要な交差点など)が有れば、車内に設置されたディスプレイまたはスピーカを介して、その構造物が近いことをドライバに通知する。あるいは、運転支援システムの制御回路は、ECU11に、速度を落とす命令を出力してもよい。
以上のように、当業者は、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。
1 車両位置検出システム
2 車載カメラ
3 コントロールエリアネットワーク(CAN)
4 コントローラ(車両位置検出装置)
10 車両
11 ECU
41 記憶部
42 通信部
43 制御部
431 初期値設定部
432 線特徴抽出部
433 線分布情報算出部
434 検索範囲設定部
435 比較部
531 初期値設定部
532 線特徴抽出部
533 鳥瞰変換部
534 線分布情報算出部
535 検索範囲設定部
536 比較部

Claims (7)

  1. 道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図と、局所ごと、かつ、前記地図線分の向きごとの前記地図線分の分布を表す地図線分分布情報を記憶する記憶部(41)と、
    車両(10)に搭載された撮像部(2)が当該車両(10)の周囲を撮影して得られた画像から、当該画像に写っている道路上の物体の輪郭を表す複数の線分を抽出する線特徴抽出部(432、532)と、
    前記画像上で、局所ごと、かつ、前記線分の向きごとの前記線分の分布を表す画像線分分布情報を求める線分布情報算出部(433、534)と、
    前記地図上に設定される複数の仮想撮影点のそれぞれについて、当該仮想撮影点における前記地図線分分布情報と前記画像線分分布情報間の一致度合を表す評価値を算出し、該評価値が最大となる仮想撮影点を前記車両(10)の位置とする比較部(435、536)と、
    を有することを特徴とする車両位置検出装置。
  2. 前記記憶部(41)は、前記複数の仮想撮影点のそれぞれについて、当該仮想撮影点から、前記撮像部(2)で前記地図を仮想的に撮影して得られる仮想画像を分割した複数の格子のそれぞれについて、当該格子に含まれる、前記仮想画像上に表された前記地図線分の向きごとの分布を前記地図線分分布情報として記憶し、
    前記線分布情報算出部(433)は、前記画像を複数の格子に分割し、前記複数の格子のそれぞれについて、当該格子に含まれる、前記画像上に表された前記線分の向きごとの分布を前記画像線分分布情報とする、請求項1に記載の車両位置検出装置。
  3. 前記複数の線分のそれぞれを鳥瞰変換して、前記車両(10)を基準とする車両座標系での前記複数の線分のそれぞれの位置を表す鳥瞰画像を求める鳥瞰変換部(533)をさらに有し、
    前記記憶部(41)は、前記地図を分割した複数の第1の格子のそれぞれについて、当該第1の格子に含まれる、前記地図上に表された前記地図線分の向きごとの分布を記憶し、
    前記線分布情報算出部(534)は、前記鳥瞰画像を複数の第2の格子に分割し、前記複数の第2の格子のそれぞれについて、当該第2の格子に含まれる、前記鳥瞰画像上に表された前記線分の向きごとの分布を前記画像線分分布情報とし、
    前記比較部(536)は、前記複数の仮想撮影点のそれぞれについて、当該仮想撮影点に応じて前記車両座標系での前記複数の第2の格子のそれぞれに対応する前記第1の格子を特定し、前記複数の第2の格子のそれぞれに対応する前記第1の格子のそれぞれの前記地図線分の向きごとの分布を、当該仮想撮影点についての前記地図線分分布情報とする、請求項1に記載の車両位置検出装置。
  4. 前記複数の地図線分のそれぞれについて、当該地図線分を横切る方向の輝度勾配の向きに応じて当該地図線分の向きが設定され、
    前記線特徴抽出部(432、532)は、検出した前記線分のそれぞれについて、当該線分を横切る方向の輝度勾配の向きを求め、当該輝度勾配の向きに応じて当該線分の向きを設定する、請求項1〜3の何れか一項に記載の車両位置検出装置。
  5. 車両(10)に搭載された撮像部(2)が当該車両(10)の周囲を撮影して得られた画像から、当該画像に写っている道路上の物体の輪郭を表す複数の線分を抽出するステップと、
    前記画像上で、局所ごと、かつ、前記線分の向きごとの前記線分の分布を表す画像線分分布情報を求めるステップと、
    道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図上に設定される複数の仮想撮影点のそれぞれについて、当該仮想撮影点における、局所ごと、かつ、前記地図線分の向きごとの前記地図線分の分布を表す地図線分分布情報と前記画像線分分布情報間の一致度合を表す評価値を算出し、該評価値が最大となる仮想撮影点を前記車両(10)の位置とするステップと、
    を含むことを特徴とする車両位置検出方法。
  6. 車両(10)に搭載された撮像部(2)が当該車両(10)の周囲を撮影して得られた画像から、当該画像に写っている道路上の物体の輪郭を表す複数の線分を抽出するステップと、
    前記画像上で、局所ごと、かつ、前記線分の向きごとの前記線分の分布を表す画像線分分布情報を求めるステップと、
    道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図上に設定される複数の仮想撮影点のそれぞれについて、当該仮想撮影点における、局所ごと、かつ、前記地図線分の向きごとの前記地図線分の分布を表す地図線分分布情報と前記画像線分分布情報間の一致度合を表す評価値を算出し、該評価値が最大となる仮想撮影点を前記車両(10)の位置とするステップと、
    を前記車両(10)に搭載されたプロセッサ(43)に実行させる命令を含むことを特徴とする車両位置検出用コンピュータプログラム。
  7. 車両(10)に搭載され、当該車両(10)の周囲を撮影して画像を生成する撮像部(2)と、
    道路上にある物体の輪郭を表す複数の地図線分のそれぞれの位置を含む地図と、局所ごと、かつ、前記地図線分の向きごとの前記地図線分の分布を表す地図線分分布情報を記憶する記憶部(41)と、
    前記撮像部(2)から前記画像を取得する通信部(42)と、
    制御部であって、
    前記画像に写っている道路上の物体の輪郭を表す複数の線分を抽出し、
    前記画像上で、局所ごと、かつ、前記線分の向きごとの前記線分の分布を表す画像線分分布情報を求め、
    前記地図上に設定される複数の仮想撮影点のそれぞれについて、当該仮想撮影点における前記地図線分分布情報と前記画像線分分布情報間の一致度合を表す評価値を算出し、該評価値が最大となる仮想撮影点を前記車両(10)の位置とする制御部(43)と、
    を有することを特徴とする車両位置検出システム。
JP2014071929A 2014-03-31 2014-03-31 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム Expired - Fee Related JP6278790B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014071929A JP6278790B2 (ja) 2014-03-31 2014-03-31 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014071929A JP6278790B2 (ja) 2014-03-31 2014-03-31 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム

Publications (2)

Publication Number Publication Date
JP2015194373A true JP2015194373A (ja) 2015-11-05
JP6278790B2 JP6278790B2 (ja) 2018-02-14

Family

ID=54433542

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014071929A Expired - Fee Related JP6278790B2 (ja) 2014-03-31 2014-03-31 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム

Country Status (1)

Country Link
JP (1) JP6278790B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018077162A (ja) * 2016-11-10 2018-05-17 株式会社デンソーアイティーラボラトリ 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN110537206A (zh) * 2017-04-21 2019-12-03 株式会社东芝 铁路轨道识别装置、程序及铁路轨道识别方法
JP2020030829A (ja) * 2018-08-23 2020-02-27 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 無人車を測位するための方法及び装置
WO2020045210A1 (ja) * 2018-08-28 2020-03-05 パイオニア株式会社 地図データ構造
CN111210460A (zh) * 2018-11-21 2020-05-29 杭州海康威视系统技术有限公司 将摄像机匹配到路段的方法、装置、电子设备及存储介质
WO2021124286A1 (en) * 2019-12-20 2021-06-24 Niantic, Inc. Location determination and mapping with 3d line junctions

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010151658A (ja) * 2008-12-25 2010-07-08 Zhencheng Hu 移動体位置測定装置及び移動体位置測定方法
JP2013522771A (ja) * 2010-03-15 2013-06-13 アナログ デバイシス, インコーポレイテッド 二次導関数エッジ検出方法のためのエッジオリエンテーション

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010151658A (ja) * 2008-12-25 2010-07-08 Zhencheng Hu 移動体位置測定装置及び移動体位置測定方法
JP2013522771A (ja) * 2010-03-15 2013-06-13 アナログ デバイシス, インコーポレイテッド 二次導関数エッジ検出方法のためのエッジオリエンテーション

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018077162A (ja) * 2016-11-10 2018-05-17 株式会社デンソーアイティーラボラトリ 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN110537206A (zh) * 2017-04-21 2019-12-03 株式会社东芝 铁路轨道识别装置、程序及铁路轨道识别方法
CN110537206B (zh) * 2017-04-21 2023-07-28 株式会社东芝 铁路轨道识别装置、程序及铁路轨道识别方法
JP2020030829A (ja) * 2018-08-23 2020-02-27 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 無人車を測位するための方法及び装置
US11486713B2 (en) 2018-08-23 2022-11-01 Apollo Intelligent Driving (Beijing) Technology Co., Ltd. Method and apparatus for positioning autonomous vehicle
WO2020045210A1 (ja) * 2018-08-28 2020-03-05 パイオニア株式会社 地図データ構造
CN111210460A (zh) * 2018-11-21 2020-05-29 杭州海康威视系统技术有限公司 将摄像机匹配到路段的方法、装置、电子设备及存储介质
CN111210460B (zh) * 2018-11-21 2023-05-02 杭州海康威视系统技术有限公司 将摄像机匹配到路段的方法、装置、电子设备及存储介质
WO2021124286A1 (en) * 2019-12-20 2021-06-24 Niantic, Inc. Location determination and mapping with 3d line junctions
US11847792B2 (en) 2019-12-20 2023-12-19 Niantic, Inc. Location determination and mapping with 3D line junctions

Also Published As

Publication number Publication date
JP6278790B2 (ja) 2018-02-14

Similar Documents

Publication Publication Date Title
JP7485749B2 (ja) ビデオベースの位置決め及びマッピングの方法及びシステム
US11474247B2 (en) Methods and systems for color point cloud generation
JP6278790B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
JP6278791B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラムならびに車両位置検出システム
JP4930046B2 (ja) 路面判別方法および路面判別装置
JP4871909B2 (ja) 物体認識装置、および物体認識方法
JP5714940B2 (ja) 移動体位置測定装置
JP5747549B2 (ja) 信号機検出装置及びプログラム
JP2020525809A (ja) 両眼画像に基づき高解像度地図を更新するためのシステムおよび方法
JP6201148B2 (ja) キャリブレーション装置、キャリブレーション方法、キャリブレーション機能を備えた移動体搭載用カメラ及びプログラム
JP6552448B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN110388928B (zh) 导航系统和导航地图的更新方法、装置
CN112308913B (zh) 一种基于视觉的车辆定位方法、装置及车载终端
JP2018077162A (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
CN114639085A (zh) 交通信号灯识别方法、装置、计算机设备和存储介质
CN107145828B (zh) 车辆全景图像处理方法及装置
JP2007011994A (ja) 道路認識装置
JP2014106739A (ja) 車載画像処理装置
JP2016148956A (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
JP6370234B2 (ja) 地図データ生成装置、地図データ生成方法及び地図データ生成用コンピュータプログラムならびに車両位置検出装置
JP5276032B2 (ja) 対象物の位置を算出するための装置
WO2020113425A1 (en) Systems and methods for constructing high-definition map
JP2017182564A (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
CN110852278A (zh) 地面标识线识别方法、设备及计算机可读存储介质
KR102540636B1 (ko) 방향 정보를 포함한 지도 생성 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180116

R150 Certificate of patent or registration of utility model

Ref document number: 6278790

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees