JP6107097B2 - 道路分割体検知方法及び装置 - Google Patents

道路分割体検知方法及び装置 Download PDF

Info

Publication number
JP6107097B2
JP6107097B2 JP2012268295A JP2012268295A JP6107097B2 JP 6107097 B2 JP6107097 B2 JP 6107097B2 JP 2012268295 A JP2012268295 A JP 2012268295A JP 2012268295 A JP2012268295 A JP 2012268295A JP 6107097 B2 JP6107097 B2 JP 6107097B2
Authority
JP
Japan
Prior art keywords
road
parallax
point
overhead view
basic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012268295A
Other languages
English (en)
Other versions
JP2013123221A (ja
Inventor
ヤオジエ ルゥ
ヤオジエ ルゥ
ガヌメイ イオウ
ガヌメイ イオウ
ジィチョアヌ ジォン
ジィチョアヌ ジォン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2013123221A publication Critical patent/JP2013123221A/ja
Application granted granted Critical
Publication of JP6107097B2 publication Critical patent/JP6107097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、道路検知及び対象検知に関し、より詳細には、道路分割体検知方法及び装置に関する。
運転補助システムの応用が益々普及されてきている。道路や車道警告システム(Lane/Road detection warning, LDW/RDW)は、運転補助システムのサブシステムであるが、該システムによると、衝突防止や、より正確な運転方向の決定等が可能になる。LDW/RDWシステムにおいて、道路や車道検知は、非常に肝心なものであり、道路情報を把握してこそはじめて、例えば警告等の更なる処理が可能になる。通常、道路や車道の検知は、道路分割体の検知により行われる。
道路分割体は、路肩石、白線、フェンスや、他の道路領域及び車道を表す標識物がある。
道路検知方法には、特徴による方法と、モデル構築による方法の2通りがある。
特徴による方法においては、例えば、色付きの線や車道エッジ等の、一部の道路特徴の組み合わせにより、道路画像中の道路や車道の位置決めを行う。
モデル構築による方法においては、先ず、例えば、直線や放物線等の1つの道路モデルを決定し、次に、一部の変数を用いた道路表示を行う。
該2つの方法においては、道路分割体の少ない特定特徴のみに注目しているため、任意の道路分割体の特徴を臨機応変に検知することができない。例えば、モデル建築方法における1モデルは、例えば、路肩意思のような1種の道路分割体にしか適用できず、白線やフェンスには適用することができない。各種道路分割体専用の特有のモデルを構築することは、非常に効率が悪くなってしまう。
特許文献1(米国特許US7346190B2号明細書)には、3次元座標を道路横断方向に2次元座標に投影するとともに、道路横断方向に沿ったヒストグラムを生成し、該ヒストグラムによる車道線決めを行う道路検知方法が開示されている。しかしながら、該方法は、例えば、斜面等の道路高さが異なる場合には適さない。
なお、従来の道路検知は、単一色画像や偏光画像による検知が大半であるが、路端が不鮮明な画像や、例えば、斜面が存在する複雑な環境の場合の道路検知は、優れた効果が得られない。
本発明は、従来技術における前記問題を鑑みてなされたものである。
本発明の一態様においては、道路領域を含む視差俯瞰図を取得するステップと、前記視差俯瞰図から平行線を道路分割体として検知するステップとを含む、道路分割体の検知方法が提供される。
前記視差俯瞰図から平行線を道路分割体として検知するステップは、視差値がゼロの点を基本点とし、各前記基本点に対し、前記視差俯瞰図における各視差値が非ゼロの点、及び前記基本点により決められた直線と等視差線との夾角の角度を算出することにより、前記基本点に関する夾角の角度分布を取得するステップと、各前記基本点の夾角の角度分布に基づいて前記平行線を検知するステップとを含むようにしてもよい。
前記各基本点の夾角の角度分布に基づいて平行線を検知するステップにおいては、基本点における、夾角の角度分布の集合度を降順にした場合の上位N(Nは、1以上の整数)位の基本点及び/又は集合度の値が所定の集合度閾値を超えた基本点を、道路消失点とし、前記道路消失点は、平行する前記道路分割体が前記視差俯瞰図において交差する点であり、異なる方向に沿って平行する道路分割体が前記視差俯瞰図において交差する点は、異なるものであり、前記道路消失点に関わる夾角の角度分布における角度の出現頻度が所定の閾値を超えた夾角、及び道路消失点により決められた直線を、道路分割体が位置する平行線とするようにしてもよい。
前記視差俯瞰図における平行線を道路分割体として決定した後に、前記検出された道路分割体の、対応の視差図における高さ、位置、又は領域の特徴のうち少なくとも一つにより、各道路分割体の更なる識別を行うようにしてもよい。
前記道路領域を含む視差俯瞰図を取得するステップにおいては、前記道路領域を含む視差図を取得し、前記視差図における前記道路領域の予測及び非道路領域の除去を行い、前記非道路領域が除去された前記視差図から変換されることで、前記道路領域を含む前記視差俯瞰図が得られるようにしてもよい。
本発明の他の態様においては、道路領域を含む視差俯瞰図を取得する視差俯瞰図取得部と、前記視差俯瞰図から平行線を道路分割体として検知する道路分割体検知部と、を含む、道路分割体の検知装置が提供される。
本発明の道路分割体検知方法及び装置においては、視差俯瞰図により、道路分割体となる平行線を検知することで、道路分割体の高さが異なることによる影響をなくし、各種形式の道路分割体を一括検知することができる。
なお、本発明の道路分割体検知方法及び装置は、同様に、非平坦路面に関わる道路分割体の検知にも適用することができる。
本発明の道路分割体検知方法及び装置は、視差俯瞰図中の平行線が視差ゼロとなる点に交差する特徴を十分利用することにより、複数の道路分割体の同時検知が可能になるとともに、複数の道路分割体が互いに制約することで、検知精度の向上が可能になる。
本発明の1実施例における、本発明を適用可能な車載システムの略図である。 本発明の1実施例における道路分割体検知方法の全体フローチャートである。 本発明の1実施例における道路領域を含む視差俯瞰図の取得方法のフローチャートである。 視差図からの道路領域の除去前後の略図である。 図4における視差図及び変換後に得られる視差俯瞰図の比較図である。 視差俯瞰図から道路分割体となる平行線を検知する方法のフローチャートである。 基本点に関わる夾角及び角度の算出図である。 夾角角度の分布例を示した略図である。 各基本点の集合度曲線を示した略図である。 本発明の実施例における検知された視差俯瞰図における道路消失点と、道路分割体となる平行線を示した図である。 本発明の実施例における道路分割体検知装置のブロック図である。
本発明がより理解し易くなるように、以下、図面及び具体的な実施例を組み合わせながら、本発明をさらに詳細に説明する。
以下の順で説明を行うことにする。
1 発明の思想の略述及び基本概念の説明
2 実施例
2.1 道路分割体検知の全体工程
2.2 視差俯瞰図の取得
2.3 視差俯瞰図における平行線の検知
2.3.1 基本点に関わる夾角の角度分布
2.3.2 道路消失点の決定
2.3.3 平行線となる道路分割体の検知
2.3.4 道路分割体の更なる区分
2.4 道路分割体検知装置
3.まとめ
<1 発明の思想の略述及び基本概念の説明>
詳細な説明の前に、先ず、当業者の本発明への容易な理解のために、本発明の思想を全体的に説明する。白線、路肩石、フェンス、路端等の道路分割体を考察すると、これらの共通性は、通常の場合に平行していることである。相違点としては、高さと面積が異なることであり、例えば、フェンスは、高さが最も高く、かつ面積が最大であり、路肩石が次で、白線が最も高さが低く、面積が最小となる。U−視差図(U−disparity)は、高さという1次元の特徴をなくした俯瞰図の特性(このため、以下では、視差俯瞰図と称する)と、視差俯瞰図における各平行線が視差ゼロとなる点の視差点に交差するという、2つの特性を有する。このため、本発明においては、視差俯瞰図の該2つの特性を用いて、視差俯瞰図からの平行線の検知により、各種道路分割体の一括検知を行っている。
以下、理解し易くなるように、基本概念について説明する。
視差は、実際にある基線の両端から同一の遠隔物体までそれぞれ直線を引いた場合に、該2つの直線からなる夾角を指している。通常は、一定距離にある2つの点から同一の目標を観察する場合に発生する方向差を指している。目標から見たときの2つの点間の夾角を、該2つの点の視差角と称し、2点間の距離を、基線と称する。視差角と基線の長さが分かれば、目標と観測者間の距離が求められる。
視差図(disparity map)は、任意の幅の画像を基準とし、サイズが該基準画像のサイズとなり、要素値が視差値となる画像である。視差図は、シーンの距離情報が含まれている。視差図は、双眼カメラで撮像された左画像と右画像から算出されてもよく、或いは、立体図における深度図から算出されてもよい。
通常の2次元視差図における点座標は、(u、v)で表され、ここで、uは、横座標、vは、縦座標であり、点(u、v)における画素の画素値は、d(u、v)で表され、該点(u、v)における視差を表している。
視差俯瞰図や、U―視差図は、視差図から求められる。U−視差図における任意の1点(u、d)の階調値は、対応視差図の座標uとなる列における視差値dとなる点の数である。
<2 実施例>
<2.1 道路分割体検知の全体工程>
図1は、本発明への容易な理解のための、本発明を適用可能な1例の車載システムの略図である。本発明のソフトウェアや、ハードウェアは、道路検知部として実現可能である。
図2は、本発明の1実施例における道路分割体検知方法200の全体フローチャートである。
ステップS210において、道路領域を含む視差俯瞰図を取得する。前述のように、双眼カメラ、多眼カメラ、ステレオカメラで撮像し、道路領域を含む視差図を算出することができ、視差図の変換により、視差俯瞰図が得られ、或いは、ステレオカメラから深度図を取得し、深度図から視差図が得られ、視差図の変換により、視差俯瞰図が得られる。ステップS210により実施される好適な実施例は、図3を参照して後述する。
ステップS220において、該視差俯瞰図から、道路分割体となる平行線を検知する。前述のように、大半の場合、例えば、路肩石、フェンス、各種道路分離線等の、道路分割体は、平行していることから、平行線の検知による道路分割体の検知が可能になる。視差俯瞰図における平行線の検知方法は、図6を参照して詳細に後述する。
<2.2 視差俯瞰図の取得>
以下、図3を参照して、本発明の1実施例における図2のステップS210の道路領域を含む視差俯瞰図の取得方法を説明する。
ステップS310において、道路領域を含む視差図を取得する。具体的に、例えば、車載双眼カメラにより左画像と右画像を撮像し、左画像と右画像から視差図を算出する。
ステップS320において、視差図から道路領域を予測し、かつ非道路領域を除去する。
道路領域の予測については、以下の3つの方法がある。1)撮像手段の角度が頻繁に変わらないことを考慮し、例えば、角度や高さ等の撮像手段の変数を用いて予測することができる。2)v−視差図により、例えば、v視差図における斜線を検索することができる。3)文献“Road approximation in Euclidean and V-Disparity Space: A Comparative Study”Angle D.Sappaなどに紹介された方法がある。代替方法として、人為的に道路領域情報を指定することもできる。
道路領域情報の取得後は、視差図から非道路領域を除去する。
なお、所定の高さ閾値rhにより、路面からの高さがrhを超えた点は全て除去してもよい。これは、高さがrhを超えた点は、路上の車輌や、自転車に乗った人や、電柱等のノイズを表す可能性があるからである。
図4は、除去前後の略図である。左図が、除去動作前の視差図であり、右図が、除去動作後の視差図である。
非道路領域を除去することにより、非目標対象の影響を低減し、以降の道路分割体検知の精度と速度を向上することが可能になる。
ステップS330において、非道路領域が除去された視差図を変換して、該道路領域を含む視差俯瞰図を得る。
以下、変換動作について説明する。視差図Dは、以下のように表される。
D=d(u,v) 式中、u∈[0,w),v∈[0,h)
Hは、視差図の高さであり、wは、視差図の幅であり、di(ui,vi)は、点(ui,vi)の視差値である。
対応の視差俯瞰図Uは、以下のように表される。
U=p(u,d) 式中、u∈[0,w),d∈(0,dmax]
dmax は、視差図Dにおける視差最大値である。
視差俯瞰図におけるPui(ui,di)∈Uは、視差俯瞰図における点(ui,vi)の階調値であり、対応視差図D中のu= ui かつd=diを全て満足する点の個数となり、横座標uiの列における視差diとなる点の個数でもある。
図5は、図4における除去後の視差図及び変換後に得られる視差俯瞰図を示した図である。
なお、ここで、このように得られた視差俯瞰図に、例えば、ノイズ除去のような後処理を施してもよい。一つの実現方式として、階調値が所定の閾値未満になる点をすべて視差俯瞰図から除去し、即ち、階調値が所定の閾値未満になる点の階調値は、すべてゼロとする。理由としては、通常、ノイズは離散点であり、視差図の各列に、視差同様のノイズ点が多数存在することはないからである。なお、白線のような道路分離線を無意識に削除しないように、所定閾値は、例えば、1のような、比較的に小さな値に設定することが好ましい。
<2.3 視差俯瞰図における平行線の検知>
以下、図6を参照して、視差俯瞰図から道路分割体となる平行線を検知する方法600について、詳細に説明する。
図6に示されたように、ステップS610において、各基本点に関わる夾角の角度分布を算出する。具体的に、視差値ゼロの点を基本点とし、各基本点に対し、視差俯瞰図における各視差非ゼロの点と該基本点から決められる直線の、等視差線との夾角の角度を算出することにより、該基本点に関する夾角の角度分布が得られる。該ステップの動作については、図7を参照して後述する。
ステップ620において、各基本点の夾角の角度分布に応じた平行線の検知を行う。
<2.3.1 基本点に関わる夾角の角度分布>
前述のように、3次元空間における平行線は、交差しないか、無限の遠方で交差するものと見なされるが、視差俯瞰図における平行線は、視差値がゼロとなる1点に交差し、ここでは、該交差点を道路消失点と称している。視差値がゼロとなる点は、該点が左右の目からみて同様なものとなる点を表し、該点は、無限の遠方にあることになる。視差俯瞰図においては、視差値がゼロとなる点は1つの横線上に位置し、ここでは、視差値がゼロとなる点を基本点と総称している。このため、次の動作としては、複数の基本点における、平行線の交差点(即ち、道路消失点)となる1基本点または複数の基本点を決定する。
各道路分割体が互いに平行している場合は、視差俯瞰図に1つの道路消失点のみ存在し、(x0,0)と設定され、全道路分割体が視差俯瞰図における該点に交差することになる。一方、例えば、フェンスAのような1つの道路分割体に関しては、視差俯瞰図において、フェンスAに属する点が全て道路消失点(x0,0)を通過する1直線La上に位置することになるが、例えば、フェンスBのような他の1道路分割体に関しては、フェンスBに属する点が全て道路消失点(x0,0)を通過する他の1直線Lb上に位置することになる。同様に、フェンスCのようなさらに他の1道路分割体に関しては、フェンスCに属する点が全て道路消失点(x0,0)を通過するさらに他の1直線Lc上に位置することになる。このように、視差俯瞰図における各視差非ゼロの点と基本点から決められる直線と等視差線間の夾角の角度分布を観察すると、他の基本点よりも、道路消失点(x0,0)の角度分布が最も集中し、即ち、分散度が最も低くなっている。これは、同一の道路分割体における各点の道路消失点に関わる夾角の角度が全て同一であり、即ち、角度分布が比較的に集中しているからである。一方、該基本点が道路消失点ではない場合は、同一の道路分割体上の各点であっても、これらの該基本点に関わる夾角の角度は異なり、換言すると、角度分布が比較的に分散している。このことから、基本点における角度分布を決定することで、分布が比較的に集中している点を道路消失点とすることができる。道路消失点の決定後は、該道路消失点と交差する各直線を決定することができ、これにより、道路分割体となる平行線を検知することができる。
以下、図7を参照して、各基本点に関わる夾角及び角度の算出について説明する。
図7に示されたように、基本点をb(x,0)で表し(ここで、x∈[0,w))、各基本点の所在する視差線をmで表し、視差俯瞰図における任意の視差非ゼロの点p(u,d)∈U、及び基本点bとpを通過する直線をnで表し、直線mとn間の夾角をqで表すと、夾角qのタンジェントは、
となる。これにより、夾角qが求められる。
視差俯瞰図における各視差非ゼロの点の前記qが得られると、下記式よりqの分布が求められる。
(式中、xは、基本点集合を表し、Nは、視差俯瞰図における視差非ゼロの点の数を表し、Qは、夾角の角度値の集合である。)Cθは、基本点Xと視差俯瞰図における各視差非ゼロの点から決められる直線と等視差線の夾角の角度が、qと等しくなる視差非ゼロの点の数である。
図8は、夾角角度の分布例を示した略図である。ここで、横座標xは、基本点の位置を表し、縦座標qは、夾角角度を表し、各点の階調値は、基本点xに関する夾角の角度qの分布Disx(q)を表す。
<2.3.2 道路消失点の決定>
夾角分布の決定後は、基本点における、夾角の角度分布集合度を降順にした場合の先頭のN(Nは、1以上の整数)列に並ぶ基本点を道路消失点とすることができる。前述のように、道路消失点とは、平行する道路分割体の視差俯瞰図における交差点であり、異なる方向に平行する道路分割体の視差俯瞰図における交差点は、互いに異なるものであり、換言すると、複数の道路消失点が存在する可能性がある。例えば、十字路に対応する視差俯瞰図には、2つの道路消失点が存在する可能性がある。
前述の先頭のN列に並ぶ基本点を道路消失点とすることは一例に過ぎず、集合度の値が所定の集合度閾値を超えた基本点を、道路消失点としてもよい。
このため、各基本点に関し、基本点に関わる夾角の角度の集合度を算出する。例えば、下記式により、集合度のシミュレーションを行う。
式中、Enpが小さくなるほど、該基本点に関わる夾角θの集合度が大きくなり、換言すると、分散度が低くなる。
図9は、各基本点の集合度曲線を示した略図である。ここで横座標が基本点の位置であり、縦座標が-Enpのような集合度を表す。
前述の夾角集合度の算出方式は、単なる1例に過ぎず、例えば、DBSCAN、OPTICS、DENCLUE等の情報クラスタリング方法のような、分布の集合度を反映可能な他の方法を用いてもよい。
各基本点の夾角分布の集合度の決定後は、Enpが最小となる(即ち、集合度が最大となるが、分散度が最低となる)基本点を道路消失点とする。
複数の道路消失点(例えば、交差路)が存在する可能性がある場合は、集合度が先頭のN列(例えば、先頭の2列)に並ぶ基本点を道路消失点とすることができる。
代替的に、集合度が所定の集合度閾値を超えた基本点を、道路消失点としてもよい。
さらに、集合度が先頭のN列に並び、かつ所定の集合度閾値を超えた基本点を、道路消失点としてもよい。
<2.3.3. 平行線の道路分割体の検知>
道路消失点の決定後は、該道路消失点に交差する直線を道路分割体とする。
具体的に、道路消失点をb0(x0,0)とし、道路消失点をb0(x0,0)に関わる夾角の角度集合をANGSとしたとき、該角度集合をANGSにおける各角度qの出現頻度Disx0(q)を観察し、出現頻度Disx0(q)が所定の閾値tqを超えた夾角と道路消失点b0から決められる直線を、道路分割体の所在を表す平行線とする。
即ち、道路分割体と道路消失点で決められる夾角qtが、
qt ∈ANGS かつ Disx0(qt)> tq
を満たす必要がある。
換言すると、道路消失点b0(x0,0)に関する夾角の角度がqtとなる点の個数が多くなるほど、このような点が1直線上に位置する可能性が高くなる。
このように得られた夾角qtと道路消失点b0(x0,0)で決められた直線を、道路分割体とする。
図10は、本発明の実施例における検知された視差俯瞰図における道路消失点と、道路分割体となる平行線を示した図である。
視差俯瞰図による道路分割体の検知を行い、視差俯瞰図における斜面道路、高さのあるフェンス、路肩石が、全て線になっていることから、道路分割体の高さを無視することができ、一括計算により、例えば、フェンス、路肩石、道路分離線等の各種形式の道路分割体を同時検知することができる。
本発明は、視差俯瞰図中の平行線が視差ゼロとなる点に交差する特徴を十分利用することにより、複数の道路分割体の同時検知が可能になるとともに、複数の道路分割体が互いに制約することで、検知精度の向上が可能になる。
前記図6により説明した平行線の検知方法は、一例に過ぎず、視差俯瞰図から平行線を検知する方法であれば、いずれの方法も本発明に用いられる。例えば、代替的な平行線検知方法として、視差俯瞰図における各直線を検知し、各直線におけるそれぞれの交差点を決定し、それぞれの交差点が視差点ゼロとなる等視差線上に位置する直線を、平行線と判定する。
<2.3.4 道路分割体の更なる区分>
視差俯瞰図における道路分割体となる平行線を決定後、該検出された道路分割体の、対応の視差図における高さ、位置、または領域特徴のうちの少なくともいずれかにより、各道路分割体の更なる識別を行う。
具体的に、視差俯瞰図における平行線の視差図に還元し、次に、各平行線の視差図における対応領域の高さ、位置や、領域特徴を観察し、各道路分割体の更なる識別を行う。例えば、視差図における対応領域の高さがフェンスの高さ区間を満たす場合は、フェンスと判断し、視差図における対応領域の高さが路肩石の高さ区間を満たす場合は、路肩石と判断する。なお、位置に関しては、通常、路肩石が道路の両側に位置し、フェンスが道路の中間に位置し、道路分離線が道路上に散在することになる。領域に関しては、フェンスの面積が最大であり、路肩石が次で、道路分離線の面積が最小となる。このように、各種道路分割体の特徴の違いを用いて、各種道路分割体の更なる識別を行うことができる。また、各種道路分割体間の特徴により、検知結果検証を行ってもよい。
<2.4 道路分割体検知装置>
図11は、本発明の実施例における道路分割体検知装置1100のブロック図である。
図11に示されたように、道路分割体検知装置1100は、道路領域を含む視差俯瞰図を取得する視差俯瞰図取得部1110と、該視差俯瞰図から、道路分割体となる平行線を検知する道路分割体検知部1120と、を有する。
ここで、道路分割体検知部1120における、道路分割体により、前記視差俯瞰図から、道路分割体となる平行線を検知する動作が、視差値ゼロの点を基本点とし、各基本点に対し、視差俯瞰図における各視差非ゼロの点と該基本点から決められる直線の、等視差線との夾角の角度を算出することにより、該基本点に関する夾角の角度分布が得られ、各基本点の夾角の角度分布に応じた平行線の検知を行う。
各基本点の夾角の角度分布に応じた平行線の検知は、基本点における、夾角の角度分布集合度を降順にした場合の先頭のN(Nは、1以上の整数)列に並ぶ基本点及び/または集合度の値が所定の集合度閾値を超えた基本点を、道路消失点とし、前記道路消失点が、平行する道路分割体の視差俯瞰図における交差点であり、異なる方向に平行する道路分割体の視差俯瞰図における交差点は、互いに異なるものであり、道路消失点に関わる夾角の角度分布における、角度の出現頻度が、所定の閾値を超えた夾角と道路消失点から決められる直線を、道路分割体の所在を表す平行線とすることにより行われる。
<3 まとめ>
以上、道路領域を含む視差俯瞰図を取得し、該視差俯瞰図から、道路分割体となる平行線を検知する、道路分割体の検知方法及び装置を説明した。
視差俯瞰図による道路分割体の検知を行い、視差俯瞰図における斜面道路、高さのあるフェンス、路肩石が、全て線になっていることから、道路分割体の高さを無視することができ、一括計算により、例えば、フェンス、路肩石、道路分離線等の各種形式の道路分割体を同時検知することができる。
本発明の道路分割体検知方法及び装置は、視差俯瞰図中の平行線が視差ゼロとなる点に交差する特徴を十分利用することにより、複数の道路分割体の同時検知が可能になるとともに、複数の道路分割体が互いに制約することで、検知精度の向上が可能になる。
なお、画像識別による方法のような通常の道路検知方法は、斜面のような非平面の道路への処理が困難であるが、本発明における視差俯瞰図は、道路及び道路分割体の高さの影響を無くすことが可能になることから、同様に、非平坦道路に関わる道路分割体の検知にも適している。
前述のように、視差俯瞰図は、通常、視差図から変換されたものであるが、例えば、双眼カメラ、多眼カメラ、ステレオカメラ等の特殊カメラで撮像された左右画像から、直接視差俯瞰図を算出するか、立体図における深度図から算出されてもよい。
前述の各基本点に関わる夾角分布を用いた平行線の検知方法は、一例に過ぎず、視差俯瞰図から平行線を検知する方法であれば、いずれの方法も本発明に用いられる。例えば、代替的な平行線検知方法として、視差俯瞰図における各直線を検知し、各直線におけるそれぞれの交差点を決定し、それぞれの交差点が視差点ゼロとなる等視差線上に位置する直線を、平行線と判定する。
以上、具体的な実施例により、本発明の基本原理を説明したが、当業者が本発明の方法及び装置の全て、または任意のステップや各部を理解したうえ、任意の演算装置(プロセッサ、記録媒体等を含む)や、演算装置のネットワークにおいて、ハードウェア、ファームウェア、ソフトウェアや、これらの組合せで実現することが可能であることは、言うまでもなく、当業者は、本発明の説明のもと、基本プログラミング技能を用いて実現することができる。
このため、本発明の目的は、さらに、任意の演算装置上で1つのプログラムや1セットのプログラムを実行して実現できる。前記演算装置は、公知の汎用装置でよい。このため、本発明の目的は、単に前記方法や装置を実現するプログラムコードを含むプログラム製品を提供することでも実現することができる。もちろん、前記記録媒体は、任意の公知の記録媒体や、将来開発し得る任意の記録媒体でもよい。
また、本発明の装置及び方法において、各部や、各ステップは、分解及び/或いは再組み合わせが可能であることは言うまでもない。このような分解及び/または再組み合わせも、本発明と同等の発明と見なされるべきである。なお、前記系列処理の実行ステップは、自然に説明順で時間順で行うことができるが、必ずしも一定の時間順で行われる必要はなく、あるステップは、並行に、或いは独立に行われてもよい。
本発明は、前述の具体的な実施例で保護範囲が制限されるものではなく、当業者は、設計要求や他の要素に応じて、多種多様な補正、組み合わせ、サブ組み合わせ、代替が可能であることが理解できる。本発明の精神と原則を逸脱しない範囲内のいずれの補正、同等代替、改善等は、すべて本発明の保護範囲内のものとなる。
米国特許US7346190B2号明細書

Claims (5)

  1. 道路領域を含む視差俯瞰図を取得するステップと、
    前記視差俯瞰図から平行線を道路分割体として検知するステップとを含
    前記視差俯瞰図から平行線を道路分割体として検知するステップは、
    視差値がゼロの点を基本点とし、各前記基本点に対し、前記視差俯瞰図における各視差値が非ゼロの点、及び前記基本点により決められた直線と等視差線との夾角の角度を算出することにより、前記基本点に関する夾角の角度分布を取得するステップと、
    各前記基本点の夾角の角度分布に基づいて前記平行線を検知するステップとを含む道路分割体の検知方法。
  2. 前記各基本点の夾角の角度分布に基づいて平行線を検知するステップにおいては、
    基本点における、夾角の角度分布の集合度を降順にした場合の上位N(Nは、1以上の整数)位の基本点及び/又は集合度の値が所定の集合度閾値を超えた基本点を、道路消失点とし、前記道路消失点は、平行する前記道路分割体が前記視差俯瞰図において交差する点であり、異なる方向に沿って平行する道路分割体が前記視差俯瞰図において交差する点は、異なるものであり、
    前記道路消失点に関わる夾角の角度分布における角度の出現頻度が所定の閾値を超えた夾角、及び道路消失点により決められた直線を、道路分割体が位置する平行線とする、請求項に記載の道路分割体の検知方法。
  3. 前記道路領域を含む視差俯瞰図を取得するステップにおいては、
    前記道路領域を含む視差図を取得し、
    前記視差図における前記道路領域の予測及び非道路領域の除去を行い、
    前記非道路領域が除去された前記視差図から変換されることで、前記道路領域を含む前記視差俯瞰図が得られる、請求項に記載の道路分割体の検知方法。
  4. 道路領域を含む視差俯瞰図を取得する視差俯瞰図取得部と、
    前記視差俯瞰図から平行線を道路分割体として検知する道路分割体検知部と、を含
    前記道路分割体検知部は、
    視差値がゼロの点を基本点とし、各前記基本点に対し、前記視差俯瞰図における各視差値が非ゼロの点、及び前記基本点により決められた直線と等視差線との夾角の角度を算出することにより、前記基本点に関する夾角の角度分布を取得し、
    各前記基本点の夾角の角度分布に基づいて前記平行線を検知する道路分割体の検知装置。
  5. 前記各基本点の夾角の角度分布に基づいて平行線を検知するステップにおいては、
    基本点における、夾角の角度分布の集合度を降順にした場合の上位N(Nは、1以上の整数)位の基本点及び/又は集合度の値が所定の集合度閾値を超えた基本点を、道路消失点とし、前記道路消失点は、平行する前記道路分割体が前記視差俯瞰図において交差する点であり、異なる方向に沿って平行する道路分割体が前記視差俯瞰図において交差する点は、異なるものであり、
    前記道路消失点に関わる夾角の角度分布における角度の出現頻度が所定の閾値を超えた夾角、及び道路消失点により決められた直線を、道路分割体が位置する平行線とする、請求項に記載の道路分割体の検知装置。
JP2012268295A 2011-12-09 2012-12-07 道路分割体検知方法及び装置 Active JP6107097B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201110409269.1A CN103164851B (zh) 2011-12-09 2011-12-09 道路分割物检测方法和装置
CN201110409269.1 2011-12-09

Publications (2)

Publication Number Publication Date
JP2013123221A JP2013123221A (ja) 2013-06-20
JP6107097B2 true JP6107097B2 (ja) 2017-04-05

Family

ID=47429577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012268295A Active JP6107097B2 (ja) 2011-12-09 2012-12-07 道路分割体検知方法及び装置

Country Status (4)

Country Link
US (1) US9373043B2 (ja)
EP (1) EP2605181A3 (ja)
JP (1) JP6107097B2 (ja)
CN (1) CN103164851B (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103164851B (zh) * 2011-12-09 2016-04-20 株式会社理光 道路分割物检测方法和装置
CN104252707B (zh) * 2013-06-27 2017-06-06 株式会社理光 对象检测方法和装置
CN104376297B (zh) * 2013-08-12 2017-06-23 株式会社理光 道路上的线型指示标志的检测方法和装置
CN103712602A (zh) * 2013-12-09 2014-04-09 广西科技大学 一种基于双目视觉道路障碍物自动检测的方法
KR101551026B1 (ko) * 2013-12-24 2015-09-07 현대자동차주식회사 차량 검출 방법
JP6299373B2 (ja) * 2014-04-18 2018-03-28 富士通株式会社 撮像方向の正常性の判定方法、撮像方向の正常性の判定プログラムおよび撮像方向の正常性の判定装置
CN106157283A (zh) * 2015-04-01 2016-11-23 株式会社理光 道路分割物的检测方法和装置
KR102050179B1 (ko) * 2015-08-04 2019-11-28 닛산 지도우샤 가부시키가이샤 단차 검출 장치 및 단차 검출 방법
CN106228560B (zh) * 2016-07-28 2019-05-14 长安大学 一种复杂场景下的人数统计方法
JP7206583B2 (ja) * 2016-11-25 2023-01-18 株式会社リコー 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
CN107229908B (zh) * 2017-05-16 2019-11-29 浙江理工大学 一种车道线检测方法
JP6855325B2 (ja) * 2017-05-25 2021-04-07 京セラ株式会社 画像処理装置、ステレオカメラシステム、移動体、路面形状検出方法およびプログラム
CN109033927B (zh) * 2017-06-09 2022-01-04 株式会社理光 检测道路分割物的方法和装置以及计算机可读存储介质
KR102421855B1 (ko) 2017-09-28 2022-07-18 삼성전자주식회사 주행 차로를 식별하는 방법 및 장치
CN108399360B (zh) * 2018-01-22 2021-12-24 海信集团有限公司 一种连续型障碍物检测方法、装置及终端
CN108319931B (zh) * 2018-03-12 2020-11-06 海信集团有限公司 一种图像处理方法、装置及终端
KR102519666B1 (ko) 2018-10-15 2023-04-07 삼성전자주식회사 이미지 변환 장치 및 방법
CN111062911B (zh) * 2019-11-15 2023-08-18 北京中科慧眼科技有限公司 基于路面信息的成像环境评价方法、装置、系统和存储介质
WO2021241482A1 (ja) * 2020-05-25 2021-12-02 国立大学法人静岡大学 経路検出装置
US20230196791A1 (en) * 2021-12-21 2023-06-22 Gm Cruise Holdings Llc Road paint feature detection

Family Cites Families (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19636028C1 (de) * 1996-09-05 1997-11-20 Daimler Benz Ag Verfahren zur Stereobild-Objektdetektion
US6215898B1 (en) * 1997-04-15 2001-04-10 Interval Research Corporation Data processing system and method
ES2180110T3 (es) * 1997-11-24 2003-02-01 Weiglhofer Gerhard Detector de coherencia.
JP4016735B2 (ja) * 2001-11-30 2007-12-05 株式会社日立製作所 レーンマーク認識方法
US7321386B2 (en) * 2002-08-01 2008-01-22 Siemens Corporate Research, Inc. Robust stereo-driven video-based surveillance
US7397929B2 (en) * 2002-09-05 2008-07-08 Cognex Technology And Investment Corporation Method and apparatus for monitoring a passageway using 3D images
US7526120B2 (en) * 2002-09-11 2009-04-28 Canesta, Inc. System and method for providing intelligent airbag deployment
JP4107587B2 (ja) * 2003-12-17 2008-06-25 三菱電機株式会社 車線認識画像処理装置
JP2005251106A (ja) 2004-03-08 2005-09-15 Mitsubishi Electric Corp 車線認識装置
JP2005346381A (ja) * 2004-06-02 2005-12-15 Calsonic Kansei Corp 立体物認識装置及び方法
CN1292380C (zh) * 2004-06-24 2006-12-27 复旦大学 一种基于3-像素基元组合的直线描述与探测方法
EP1779295A4 (en) * 2004-07-26 2012-07-04 Automotive Systems Lab SYSTEM FOR PROTECTING USERS OF THE ROAD IN A DANGER SITUATION
FR2874300B1 (fr) * 2004-08-11 2006-11-24 Renault Sas Procede de calibration automatique d'un systeme de stereovision
US7248968B2 (en) * 2004-10-29 2007-07-24 Deere & Company Obstacle detection using stereo vision
WO2006052508A2 (en) * 2004-11-03 2006-05-18 Tyzx, Inc. An integrated image processor
US7587081B2 (en) * 2005-09-28 2009-09-08 Deere & Company Method for processing stereo vision data using image density
JP4607193B2 (ja) * 2005-12-28 2011-01-05 本田技研工業株式会社 車両及びレーンマーク検出装置
JP2007235642A (ja) * 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム
US8108119B2 (en) * 2006-04-21 2012-01-31 Sri International Apparatus and method for object detection and tracking and roadway awareness using stereo cameras
JP4797794B2 (ja) * 2006-05-24 2011-10-19 日産自動車株式会社 歩行者検出装置および歩行者検出方法
US7786898B2 (en) * 2006-05-31 2010-08-31 Mobileye Technologies Ltd. Fusion of far infrared and visible images in enhanced obstacle detection in automotive applications
US8139109B2 (en) * 2006-06-19 2012-03-20 Oshkosh Corporation Vision system for an autonomous vehicle
JP4868964B2 (ja) * 2006-07-13 2012-02-01 三菱ふそうトラック・バス株式会社 走行状態判定装置
JP4222411B2 (ja) * 2006-11-08 2009-02-12 日本電気株式会社 消失点検出システム、消失点検出方法および消失点検出用プログラム
US8204278B2 (en) * 2006-11-28 2012-06-19 Fujitsu Limited Image recognition method
DE102006062061B4 (de) * 2006-12-29 2010-06-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zum Bestimmen einer Position basierend auf einem Kamerabild von einer Kamera
EP2168079B1 (en) * 2007-01-23 2015-01-14 Valeo Schalter und Sensoren GmbH Method and system for universal lane boundary detection
JP5145585B2 (ja) * 2007-06-08 2013-02-20 国立大学法人 熊本大学 物標検出装置
JP2009041972A (ja) * 2007-08-07 2009-02-26 Toshiba Corp 画像処理装置及びその方法
US8332134B2 (en) * 2008-04-24 2012-12-11 GM Global Technology Operations LLC Three-dimensional LIDAR-based clear path detection
JP4871909B2 (ja) * 2008-04-25 2012-02-08 日立オートモティブシステムズ株式会社 物体認識装置、および物体認識方法
JP5074365B2 (ja) * 2008-11-28 2012-11-14 日立オートモティブシステムズ株式会社 カメラ装置
DE102009009047A1 (de) * 2009-02-16 2010-08-19 Daimler Ag Verfahren zur Objektdetektion
US8120644B2 (en) * 2009-02-17 2012-02-21 Autoliv Asp, Inc. Method and system for the dynamic calibration of stereovision cameras
JP5188430B2 (ja) * 2009-03-24 2013-04-24 富士重工業株式会社 画像処理装置
EP2246806B1 (en) * 2009-04-29 2014-04-02 Autoliv Development AB Vision method and system for automatically detecting objects in front of a motor vehicle
JP5293815B2 (ja) * 2009-06-02 2013-09-18 日本電気株式会社 画像処理装置、画像処理方法、及び画像処理用プログラム
TW201043507A (en) * 2009-06-05 2010-12-16 Automotive Res & Testing Ct Method for detection of tilting of automobile and headlamp automatic horizontal system using such a method
WO2010146695A1 (ja) * 2009-06-18 2010-12-23 富士通株式会社 画像処理装置および画像処理方法
US8633810B2 (en) * 2009-11-19 2014-01-21 Robert Bosch Gmbh Rear-view multi-functional camera system
JP5350297B2 (ja) * 2010-03-17 2013-11-27 クラリオン株式会社 車両姿勢角算出装置及びそれを用いた車線逸脱警報システム
FR2958767B1 (fr) * 2010-04-09 2016-11-11 Commissariat Energie Atomique Procede de detection de cibles dans des images stereoscopiques.
JP5267592B2 (ja) * 2010-04-09 2013-08-21 株式会社デンソー 物体認識装置
JP2011237646A (ja) * 2010-05-11 2011-11-24 Panasonic Corp 3次元撮像装置
US9118816B2 (en) * 2011-12-06 2015-08-25 Mobileye Vision Technologies Ltd. Road vertical contour detection
US8768011B2 (en) * 2010-11-24 2014-07-01 Denso Corporation Road estimation device and method for estimating road
WO2012081359A1 (ja) * 2010-12-15 2012-06-21 本田技研工業株式会社 レーン認識装置
US8489287B2 (en) * 2010-12-31 2013-07-16 Automotive Research & Test Center Vehicle roll over prevention safety driving system and method
JP2012243049A (ja) * 2011-05-19 2012-12-10 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
JP5914013B2 (ja) * 2011-08-08 2016-05-11 東芝アルパイン・オートモティブテクノロジー株式会社 運転支援装置
US8818125B2 (en) * 2011-10-07 2014-08-26 Texas Instruments Incorporated Scene adaptive filter design for improved stereo matching
US9762881B2 (en) * 2011-11-03 2017-09-12 Texas Instruments Incorporated Reducing disparity and depth ambiguity in three-dimensional (3D) images
CN103123722B (zh) * 2011-11-18 2016-04-27 株式会社理光 道路对象检测方法和系统
CN103164851B (zh) * 2011-12-09 2016-04-20 株式会社理光 道路分割物检测方法和装置
CN103177236B (zh) * 2011-12-22 2016-06-01 株式会社理光 道路区域检测方法和装置、分道线检测方法和装置
US20130177237A1 (en) * 2012-01-09 2013-07-11 Gregory Gerhard SCHAMP Stereo-vision object detection system and method
JP2014006882A (ja) * 2012-05-31 2014-01-16 Ricoh Co Ltd 路面傾斜認識装置、路面傾斜認識方法及び路面傾斜認識用プログラム
CN103679127B (zh) * 2012-09-24 2017-08-04 株式会社理光 检测道路路面的可行驶区域的方法和装置
CN103679691B (zh) * 2012-09-24 2016-11-16 株式会社理光 连续型道路分割物检测方法和装置

Also Published As

Publication number Publication date
CN103164851B (zh) 2016-04-20
JP2013123221A (ja) 2013-06-20
CN103164851A (zh) 2013-06-19
US9373043B2 (en) 2016-06-21
EP2605181A2 (en) 2013-06-19
US20130148856A1 (en) 2013-06-13
EP2605181A3 (en) 2014-12-31

Similar Documents

Publication Publication Date Title
JP6107097B2 (ja) 道路分割体検知方法及び装置
JP6131704B2 (ja) 連続型道路分割体の検知方法及び連続型道路分割体の検知装置
JP6136244B2 (ja) 道路領域検知方法及び装置、並びに道路分離線検知方法及び装置
JP6384182B2 (ja) 道路上の線形指示標識の検出方法及び装置
US11670087B2 (en) Training data generating method for image processing, image processing method, and devices thereof
JP6326791B2 (ja) 路面検知方法及び路面検知装置
JP4801821B2 (ja) 道路形状推定装置
EP2819090B1 (en) Three-dimensional object detection device
JP6221371B2 (ja) 路面検知方法及び路面検知装置
JP5787024B2 (ja) 立体物検出装置
JP6299291B2 (ja) 道路エッジ検出方法及び道路エッジ検出装置
EP2711867A2 (en) Method and apparatus for detecting continuous road partition
JP6340781B2 (ja) 視差図による視差方向連続型物体検知方法及び装置
JP2008045974A (ja) 物体検出装置
JP2013186902A (ja) 車輌検知方法及び装置
CN107918775B (zh) 一种辅助车辆安全驾驶的斑马线检测方法及系统
JP7259309B2 (ja) 画像処理装置および画像処理方法
CN103577790B (zh) 道路转弯类型检测方法和装置
CN104252707A (zh) 对象检测方法和装置
JP5794379B2 (ja) 立体物検出装置及び立体物検出方法
KR102119641B1 (ko) 보행자 검출 장치 및 방법
Yan et al. Potential Accuracy of Traffic Signs' Positions Extracted From Google Street View
JP5938940B2 (ja) 立体物検出装置
Hanuman et al. Robust and real-time multi-lane and single lane detection in Indian highway scenarios
JP5668891B2 (ja) 立体物検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160906

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170220

R151 Written notification of patent or utility model registration

Ref document number: 6107097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151